Современный мир стремительно меняется под воздействием технологий, и искусственный интеллект уже давно перестал быть просто научной фантастикой, превратившись в одну из ключевых движущих сил в бизнесе, образовании и повседневной жизни. Однако не все специалисты и мыслители разделяют оптимизм относительно нынешнего направления развития ИИ. Среди таких выразительных критиков выделяется Брета Виктора, известный дизайнер, инженер и мыслитель, чьи идеи касаются глубочайших аспектов взаимодействия человека и технологии. Его взгляды дают уникальное понимание того, почему текущие тренды в области искусственного интеллекта зачастую находятся в конфликте с идеалами, в которые он верит, и со своей работой по созданию динамичной, человечной и доступной среды взаимодействия с вычислениями. Брет Виктор известен своей концепцией «гуманного динамического медиума» – формы компьютерных систем, которые не просто служат инструментом, а предоставляют каждому человеку возможность активно и осознанно создавать, модифицировать и понимать устройства и программы вокруг себя.
В своей работе он отталкивается от идеи, что настоящая компьютерная грамотность должна быть повсеместной, глубокой и основанной на физическом взаимодействии с реальным миром, а не ограничиваться пользованием виртуальными интерфейсами или слепой зависимостью от «черных ящиков» технологий. Одна из ключевых причин, по которой современные тенденции в ИИ расходятся с взглядами Виктора, заключается в вопросах прозрачности и контроля. Современные модели искусственного интеллекта, особенно основанные на глубоком обучении, являются по сути непредсказуемыми и опираются на гигантские наборы данных и масштабные вычисления, которые трудно объяснить или интерпретировать для конечного пользователя. При этом сам пользователь зачастую оказывается отстранен от понимания того, как и почему система принимает те или иные решения. Виктор обращает внимание на то, что такая непрозрачность ведет к потере агентности – способности человека владеть и понимать инструмент, которым пользуется.
В противоположность этому, работа Виктора и проекты, связанные с Dynamicland и Realtalk, фокусируются на создании открытых, очевидных и полностью поддающихся модификации систем. Его подход предполагает, что программирование и взаимодействие с вычислительной средой должны быть видимыми и осязаемыми. Представьте компьютер как физическое пространство, где люди могут работать вместе, распределять задачи и «программировать» объекты своими руками, осознавая каждый элемент происходящего. Такой подход ставит основой не автоматизацию и замену человека, а сотрудничество человека с технологией, увеличивая возможности пользователя, а не заменяя его. Еще один аспект критики Виктора современных AI-систем — это их склонность к массовому продукту и агрегации данных, которые часто используются для слежки или манипуляции.
Его проекты нацелены на децентрализацию, локализацию и персонализацию — на среды, которые поддерживают разнообразие, сообщество и открытость вместо централизованной монополии. По мнению Виктора, ориентированность на корпоративные интересы и экономию за счет персональных данных приводит к росту безотчетности и снижению качества коммуникации между реальными людьми. Также нельзя не отметить философский разрыв во взглядах на роль технологии в развитии человека. Современный ИИ нередко преподносится как средство решения задач за пользователя — интеллектуальный помощник, который берет на себя принятие решений. Виктор же выступает против «замещения понимания» машиной.
Он убежден, что технологии должны служить развитию человеческой способности к мышлению, творчеству и изучению, а не становиться поводом для возникновения всеобъемлющей зависимости или интеллектуального безразличия. Из его работ ясно, что он выступает за «живую» интеракцию, где знания порождаются в процессе совместного исследования и построения моделей мира, а не передаются в готовом виде как набор инструкций или ответов от невидимой системы. Таким образом, Виктор видит динамическую вычислительную среду как поле для совместного обучения и роста, а не как инструмент автоматизированных решений или эффективной доставки контента. Важным элементом подхода Брета Виктора является использование физического пространства и материальных объектов как носителей вычислений. Вместо виртуальных интерфейсов и экранов он предлагает новые формы взаимодействия с реальностью, где программные процессы не скрыты за слоями кода, а воплощены в конкретных вещах, которые можно трогать, изменять и наблюдать.
Такой подход помогает снизить когнитивную нагрузку, улучшить коммуникацию и возвратить человеческое восприятие в центр цифровых технологий. Современные AI-системы же, по мнению Виктора, зачастую действуют противоположным образом – они максимизируют автоматизацию и стремятся быть как можно более автономными, отделяя пользователя и человека от понимания сути происходящего, делая интерфейсы все более абстрактными и удаленными от естественного человеческого опыта. Это ведет к сложностям восприятия и чувству отчужденности, а также лишает пользователей эффективного инструментария для творчества и контроля. Еще одной важной темой, которую поднимает Виктор, является социальное измерение технологий. По его мнению, нынешние ИИ-продукты склонны превращать пользователей в изолированных единиц, которые взаимодействуют с машинами, а не с другими людьми.
Dynamicland и его аналоги развивают концепцию «социальной компьютерной среды», где акцент ставится на живом взаимодействии, сотрудничестве и коллективном творчестве с помощью вычислительных инструментов. Таких условий он считает более устойчивыми и гуманными в долгосрочной перспективе. Также нельзя забывать, что Виктор критикует широчайшее использование больших обучающих наборов данных, особенно когда речь идет о приватности и этике. Он выступает за минимизацию количества данных, которые собираются и хранатся, за отказ от слежки и централизованных систем, за создание среды, которая не эксплуатирует пользователя, а наоборот дает ему силу и знания. В отличие от этого, современные подходы в AI часто усиливают концентрацию данных и контроля в руках нескольких крупных корпораций, что порождает неравенство и уязвимость.
Отдельно стоит упомянуть и масштабы индустрии. Коммерциализация и гонка за прибылью приводят к развитию систем с закрытым исходным кодом, проприетарными решениями и моножанровым мышлением, тогда как Виктор продвигает идею открытых платформ, простоты и предоставления людям инструментов для свободного экспериментирования. Для него вычисления не должны оставаться узкоспециализированной дисциплиной, а должны стать частью общего культурного опыта, доступного каждому человеку. В итоге, Брета Виктора можно рассматривать как одного из немногих современников, кто своим творческим и исследовательским подходом подает вызов основным парадигмам искусственного интеллекта и цифровых технологий. Его философия акцентирует необходимость переосмысления отношений между человеком, машиной и обществом, чтобы технологии служили развитию, а не подавлению человеческого потенциала.
