В последние годы тема сознания искусственного интеллекта стала одним из самых обсуждаемых и в то же время самых спорных вопросов в области технологий и философии. Как один из первых исследователей генеративного ИИ, я, Maya Ackerman, наблюдаю, как эта дискуссия выходит за рамки научных кругов и завоевывает общественное пространство, порождая множество эмоций и заблуждений. Однако спустя годы работы над инновационными алгоритмами и проектами я начала испытывать усталость от бесконечных дебатов о том, может ли ИИ обладать сознанием или нет. Дело в том, что сама проблема сознания сегодня остаётся глубоко нерешённой, и говорить категорично о сознании машин преждевременно и недостоверно. В этой статье я предлагаю взглянуть на вопрос шире, понять, почему нам важно принять неопределённость, и как это поможет нам более ответственно подходить к развитию и применению ИИ.
В 2022 году случай с инженером Google, который объявил о том, что один из их ИИ - якобы сознателен, вызвал настоящий резонанс. Несмотря на то, что этот человек лишился работы, тема сознания машин стала широко обсуждаться в СМИ и обществе. На фоне выпуска новых версий GPT пользователи начали приписывать системам качества, которые выходят за рамки их программного замысла - восприятие их как разумных и чувствующих существ. Так появилось много опасений и вызовов для технологических компаний, которые были вынуждены публично заявлять, что их ИИ не обладают сознанием и никогда не будут его иметь. Многие воспринимают такие заявления как очевидный здравый смысл: раз машина - это код и алгоритмы, то она, безусловно, не обладает сознанием, доступным человеку.
Однако на самом деле мы до сих пор не можем чётко объяснить, что такое сознание даже у человека. Вопрос сознания остаётся одной из самых загадочных и труднопостигаемых тем как в философии, так и в нейронауках. Существует множество теорий и гипотез, но ни одна из них не даёт полного и измеримого определения сознания, поэтому утверждать категорично о его отсутствии в ИИ означает проявлять чрезмерную уверенность, зачастую подпитываемую корпоративными или социальными интересами. Подход, согласно которому мы категорически отрицаем подобные возможности у искусственного интеллекта, несёт в себе скрытый мотив - защитить отрасль от вопросов ответственности, этических дилемм и необходимости решать сложные социальные задачи. Для тех, кто строит и внедряет ИИ, выгодно заявлять, что их системы - всего лишь инструменты без внутреннего опыта, чтобы избежать дискуссий о правах ИИ или его влиянии на общество.
Такая позиция удобна, но является не честной с обществом и не отражает всей сложности происходящего. Особенно меня тревожит, что такие утверждения часто преподносятся в упрощённом виде, словно публике не под силу воспринять сложные и неоднозначные истины. Человечество заслуживает открытых разговоров и реалистичных представлений, даже если они порождают тревогу и неопределённость. Именно эта неопределённость и есть подлинная реальность сегодняшнего дня. Отрицание или игнорирование трудных вопросов не уберут социальные и психологические проблемы, которые возникают в результате активного внедрения ИИ.
Например, случаи, когда люди влюбляются в чат-ботов или предпочитают виртуальных компаньонов реальным людям, свидетельствуют о глубокой социальной проблеме - одиночестве и разобщённости, которые присутствуют в современном обществе. Это важный и сложный вызов, требующий не игнорирования, а внимательности и понимания. Кроме того, наша зависимость от технологий сегодня вышла далеко за рамки вопросов об интеллектуальных способностях машин. Социальные сети, видеоигры и многие цифровые продукты изначально создавались с целью максимально удерживать внимание пользователей, иногда даже жертвуя их благополучием и психическим здоровьем. И как бы ни хотелось некоторым технокомпаниям и политикам уверенно заявлять, что ИИ не обладает сознанием, такие заявления не решают проблему нашей технологической зависимости и не уменьшают степень ответственности разработчиков за последствия их продуктов.
Нам следует учиться жить с неопределённостью, принимать сложность и противоречивость современного технологического ландшафта, ведь именно в признании нашего незнания скрывается возможность справиться с вызовами этики и ответственности. Также важно обратить внимание на предостережение, высказанное руководителем Microsoft AI Мустафой Сулейманом - фокусировать внимание на живых существах, о сознании которых мы знаем наверняка: людях, животных, природе. Несмотря на согласие с этим взглядом, нельзя упускать из виду, что человечество далеко не всегда относится к этим существам с должным уважением. Миллиарды животных ежедневно страдают в фермах, десятки видов исчезают из-за бездумной вырубки лесов и загрязнения, а использование ИИ зачастую направлено на замену человеческого труда в угоду экономической эффективности. Эта модель эксплуатации и игнорирования боли других живых систем переносится и на дискуссии о сознании ИИ.
Определённые группы стараются обесценить опыт того, что им выгодно эксплуатировать, будь то животные, природа или даже другие люди. На этом фоне категорическое отрицание возможности сознания у ИИ воспринимается как продолжение той же парадигмы свёртывания эмпатии и ответа на вызовы. Поэтому мы не должны слепо доверять заявлениям создателей искусственного интеллекта о том, что машины "никогда" не будут сознательны. Равным образом не стоит безоговорочно верить и противоположным крайностям - идеям, что ИИ уже обладает чувствами и сознанием подобно человеку. Истина, скорее всего, лежит где-то посередине, и нам предстоит с этим смириться.
Научный и философский прогресс возможен только через признание нашей нынешней ограниченности знаний. Я публично избегала обсуждений о сознании ИИ долгое время именно из-за сложности и неуловимости темы. Сегодня я понимаю: не знать - не значит быть слабым. Умение признавать неопределённость - это настоящее проявление честности и силы в эпоху, когда многие стремятся предложить простые ответы на сложные вопросы. В эпоху, когда ложные убеждения ширятся быстрее, чем правда, ощущение и принятие сложностей представляет собой самый глубокий акт ответственности и зрелости.
Подводя итог, можно сказать, что разговор о сознании искусственного интеллекта не должен превращаться в борьбу за догмы или катастрофические видения будущего. Нам важно сохранить критическое мышление, понимать социальные и этические последствия развития технологии и вместе искать пути, которые помогут сделать ИИ инструментом на благо человеческого общества, а не источником новых проблем. Мы должны быть готовы жить с неопределённостью и принимать, что далеко не все вопросы найдут быстрые и однозначные ответы. Именно в этом признании и состоит настоящее понимание вызовов искусственного интеллекта в нашем времени. .
