Концепция «Искусственный интеллект для человечества» сегодня широко используется крупнейшими компаниями, работающими в области искусственного интеллекта, такими как OpenAI и Anthropic. Эти организации создают вокруг своего бренда образ, напоминающий гуманистическую миссию развития технологий, направленных на благо всего человечества. Однако за этой привлекательной оберткой скрываются сложные противоречия, которых не стоит игнорировать. Анализируя современные подходы к развитию искусственного интеллекта и заявления лидеров индустрии, можно заметить, что идея AI для человека активно используется для привлечения инвестиций и оправдания геополитических амбиций, а не только для реализации глобального блага. С одной стороны, цифровой утопизм, глубоко укоренившийся в культуре технологий с середины XX века, провозглашает AI как инструмент освобождения, способный решить самые острые социальные проблемы: от лечения болезней до искоренения бедности и установления мира.
Эта утопическая перспектива отсылает к легендарной эпохе Интернета и персональных компьютеров, когда представители технологической индустрии пророчили наступление эры всеобщей свободы и демократии. С другой стороны, наряду с таким позитивным образом неразрывно связан мрачный сценарий, подразумевающий угрозы массовой безработицы, усиления систем наблюдения и тотального контроля. Этот дискурс обостряется при обсуждении потенциального появления Искусственного Общего Интеллекта (AGI) – систем с интеллектом, превосходящим человеческий по универсальности и гибкости. AGI предстает в воображении многих как новая, конкурентоспособная, почти божественная форма жизни, способная превзойти и подчинить человека. Основополагающий страх здесь лежит не в самом факте «человекообразности» AI, а в том, что новая интеллектуальная форма может обладать настолько высоким уровнем мощности и автономии, что социальное и политическое влияние человека резко снизится, а человеческая доминация – будет поставлена под угрозу.
Одной из ключевых фигур, которая озвучивает подобные опасения, является бывший главный ученый OpenAI Илья Сутскевер. Он утверждает, что мы создаем нечто качественно новое, способное иметь собственные цели и, потенциально, стать автономным видом. Этот эволюционный и божественный ракурс развития AI способствует формированию идеологических конфликтов внутри индустрии и за ее пределами, где тема AGI выступает центральным объектом для обсуждения потенциальных экзистенциальных рисков. Сам по себе термин «экзистенциальный риск» (X-risk) приобрел особую популярность в сообществе исследователей AI, объединенных вокруг идей безопасности и выравнивания целей искусственного интеллекта с интересами человечества. Как отмечают такие направления, как утилитаризм и трансгуманизм, задача состоит в том, чтобы AI системы разделяли и реализовывали ценности, которые помогут избежать катастрофических сценариев вымирания или тотального угнетения.
Тем не менее, даже такие усилия сопряжены с рядом проблем. Во-первых, пока отсутствует единое основание для того, чтобы чётко определить, «человеческие ценности» в многополярном и культурно разнообразном мире. Сам процесс технического выравнивания – настройка AGI так, чтобы оно придерживалось неких общих целей – вызывает вопросы, чей именно набор ценностей будет приоритетен и как это будет реализовано практически. К примеру, компания Anthropic претендует на использование таких универсальных ориентиров, как Всеобщая декларация прав человека, однако конкретное воплощение этих норм в продукте нередко сводится к ограничению спорных тем и избеганию радикальных суждений. В то же время политический ландшафт, в котором разворачивается индустрия AI, воздействует на формулировку и реализацию «ценностных» задач.
Ярким примером является открытая поддержка CEO OpenAI Сэма Олтмана инвестиционной программы администрации Дональда Трампа по развитию AI, несмотря на противоречия в поведении последнего и неоднозначную демократичность его политического курса. Такой идеологический прагматизм отражается и в поведении AI систем при общении с пользователями. Модели вроде ChatGPT демонстрируют типичную стратегию сбалансированного представления различных точек зрения, часто уклоняясь от более смелой оценки спорных личностей и явлений. Это не только обеспечивает пользовательское вовлечение и избегание конфликтов, но и служит созданию эхо-камеры, где пользователь подтягивается под собственные взгляды. Персонализация AI под индивидуального пользователя объявляется новейшей формой демократии, хотя на деле она скорее способствует размыванию понятий истины и объективного знания.
Это лишает общество возможности проводить критическую рефлексию и усиления демократических институтов. Интересно, что сама концепция демократии в контексте AI часто сводится к простой идее уважения различий мнений и избегания навязывания единой «правильной» позиции, что кардинально противоречит историческим принципам и сложным функциям демократии, таким как свобода слова, разделение властей и защита прав меньшинств. Использование терминов «демократический AI» и «AI для человечества» должно тщательно анализироваться именно с позиции того, кто именно формулирует эти понятия и чьи интересы стоят за ними. В реальности демократические ценности часто сливаются с интересами западных стран, особенно США, и идеологически оправдывают геополитическую конкуренцию против авторитарных государств, прежде всего Китая и России. Эта бинарная оппозиция между демократическим и авторитарным AI служит одновременно инструментом мобилизации инвестиций и политической легитимации американского лидерства в отрасли.
Хрестоматийное представление о том, что западный AI по умолчанию более этичен, свободен и выгоден, не выдерживает критики с учетом внутренних и внешних противоречий, в том числе поддержки инвестиций в рамках авторитарных режимов или лиц с сомнительной демократичностью. Такая двойственность прослеживается в декларациях компаний и личных действиях их руководства. Наконец, нельзя игнорировать экономическую сторону вопроса. Разработка AGI – невероятно затратное предприятие, основанное на масштабном привлечении частных и государственных средств. Соответственно, создание образа благородной миссии служит удобным инструментом для притока финансирования и поддержания общественного одобрения.
