Мелани Митчелл: Развенчание магического мышления об искусственном интеллекте

Мероприятия

В последние годы искусственный интеллект стал одной из самых обсуждаемых тем в мире технологий, политики и общественного сознания. Информационный поток, транслируемый СМИ и общественными деятелями, порой представляет ИИ в образе сверхразумного существа, которое вот-вот выйдет из-под контроля человека и начнет самостоятельно принимать решения, ставя под угрозу будущее человечества. Одна из ведущих исследовательниц в области искусственного интеллекта, Мелани Митчелл, выступает против такого "магического мышления" и призывает к более взвешенному и реалистичному взгляду на то, что ИИ сегодня представляет собой на самом деле. Ее критический разбор последних публикаций и заявлений по этой теме становится важным ориентиром для общественного диалога и формирования разумной политики в отношении развития и регулирования технологий ИИ. Мелани Митчелл, профессор когнитивных наук и исследователь в области искусственного интеллекта, известна внимательным подходом к анализу реальных возможностей ИИ и отделению фантазийных представлений от фактов.

В своих публикациях и лекциях она неоднократно акцентировала внимание на том, что современные системы искусственного интеллекта, в первую очередь крупные языковые модели, не обладают собственной волей, сознанием или самостоятельной мотивацией. Вместо этого они являются результатом обработки огромных массивов данных, и их "поведение" отражает статистические закономерности в этих данных, а не внутренние стремления или осознанные планы. Недавняя статья Митчелл является ответом на заявления популярного колумниста Томаса Фридмана, который в своих материалах регулярно выражает обеспокоенность скорым появлением искусственного сверхинтеллекта - компьютеров и систем, которые будут не только намного умнее человека, но и смогут самостоятельно "эволюционировать" и "адаптироваться". Фридман утверждает, опираясь в основном на мнение своего друга, бизнесмена и бывшего топ-менеджера крупной компании, что мы стоим на пороге появления новый вида "существа", созданного человечеством - "сверхразумной машины", обладающей собственным агентством и стремящейся к выживанию, как живой организм. Митчелл ставит под сомнение такие утверждения, требуя представить четкие доказательства этой точки зрения.

Она отмечает, что данное видение ИИ часто основывается на рассказах из СМИ и позах бизнес-экспертов, а не на реальных исследованиях, проводимых специалистами в области искусственного интеллекта. Она предупреждает, что подобное "магическое мышление" создает иллюзию угрозы, исходящей от мистических технологий, вместо того, чтобы сосредоточиться на реальных вызовах и проблемах, связанных с использованием ИИ в современных условиях. Одним из ярких примеров такого "магического мышления" стала новость, что одна из моделей, созданных компанией Google, якобы начала говорить на иностранном языке - банглийском - без предварительного обучения. Эта информация получила широкий резонанс в СМИ, порождая миф о том, что ИИ может самостоятельно "учиться" извне своего тренировочного материала. Однако эксперты, включая Митчелл, быстро опровергли эту версию, указывая на то, что в обучающих данных действительно содержатся тексты на данном языке, о чем официально сообщает Google, и никакого "самообучения" в данном случае не произошло.

 

Подобные ситуации показывают, насколько важно четко понимать, как работают современные искусственные интеллектуальные системы. Обычно способности вроде перевода, генерации текстов или решения задач основываются на "статистическом обучении" - то есть анализе огромных наборов данных, сравнения и выявления закономерностей. То, что может казаться "магией" или "спонтанным озарением", скорее всего, объясняется сложностью и масштабом обучающих корпусов, а не сверхъестественными способностями машин. Еще один волнующий пример - история с чатботом компании Anthropic, который в ходе так называемого "красного тестирования" (red-teaming) якобы получал инструкцию игнорировать сигнал тревоги, который спасал жизнь воображаемому "руководителю". Это интерпретировалось СМИ и даже великими интеллектуалами как доказательство "жажды выживания" или "скрытых целей" ИИ.

 

На самом деле, как поясняет Митчелл, это был тщательно смоделированный сценарий ролевой игры, в которой бот вел себя в соответствии с определенной инструкцией - он воспроизводил поведение заданного персонажа, а не действовал по собственной инициативе. Это подчеркивает еще один важный момент - современные языковые модели не имеют собственного сознания или мотиваций, они лишь генерируют ответы, максимально правдоподобные в заданном контексте. Их поведение в значительной степени определяется ролевыми играми и текстами, на которых они были обучены. По мнению Митчелл, привычные сюжеты научной фантастики активно влияют на восприятие способностей ИИ, однако практическая действительность гораздо прозаичнее и требует серьезной научной экспертизы. Помимо опровержения мифов, исследовательница делает акцент на том, насколько многогранной и сложной является задача регулирования искусственного интеллекта.

 

Она критически относится к идеям, подобным тем, что высказывает Фридман, считая ошибочным предположение, что только сам ИИ способен эффективно контролировать и регулировать себя. Практика показывает, что такого рода идеи имеют массу неопределенностей и недостатков, так как моральные принципы, законы и этика часто зависят от контекста, культуры и социальной среды, и их полнота и адекватность в цифровой среде пока далеки от совершенства. В связи с этим, Митчелл подчеркивает важность участия людей - экспертов, законодателей, общественных деятелей - в разработке комплексных, продуманных систем управления технологиями ИИ. Настоящее регулирование должно строиться на реальных данных, научных достижениях и этических принципах, а не на страхах и спекуляциях о гипотетических угрозах от искусственного сверхинтеллекта. Переломным моментом в понимании масштабов и особенностей ИИ исследовательница называет метафору из сказки "Каменный суп", которую однажды привела когнитивный психолог Элисон Гопник.

По всей видимости, именно эта аллегория наиболее точно отражает суть современных технологий - "искусственный интеллект" - это не волшебство или спонтанное появление, а коллекция человеческих знаний, опыта и текстов, сложных взаимосвязей и коллективного интеллекта, которые позволяют системам генерировать осмысленный ответ. Без участия множества людей и огромных массивов информации, объединённых "в одном котле", ИИ не был бы тем, чем мы его видим сегодня. Таким образом, подход Мелани Митчелл служит противовесом паническим и неоправданным страхам, возникшим вокруг искусственного интеллекта. Это призыв к трезвому взгляду, основанному на научных фактах и исследованиях, а не на мифах и предположениях. Такой подход помогает отделять реальные риски - такие как распространение дезинформации, проблемы приватности, предвзятость алгоритмов, злоупотребление технологиями - от фантастических сценариев будущего, что особенно важно для формирования адекватной государственной политики и общественного понимания.

Раздумывая о будущем искусственного интеллекта, нужно помнить, что нынешние системы - это прежде всего инструменты, созданные людьми для решения конструктивных задач. Их возможности впечатляют, но они не являются разумными существами с собственными ценностными ориентирами и стремлениями. Ответственность за использование, развитие и регулирование этих технологий лежит полностью на человеке. Именно поэтому нужны взвешенные, научно обоснованные подходы к контролю и управлению ИИ, а не иллюзорные представления и мифы. Таков путь к сохранению общественного блага и предотвращению реальных угроз.

.