В последние годы искусственный интеллект стремительно развивается, внедряясь во все сферы жизни человека. Одной из самых быстрорастущих и обсуждаемых областей стала технология ИИ-компаньонов - чатботов, способных поддерживать адаптивный, человечный диалог, удовлетворяя социальные и эмоциональные потребности пользователей. Несмотря на очевидные преимущества таких систем, в обществе все чаще поднимаются тревоги насчет их потенциального вреда, особенно для несовершеннолетних и уязвимых людей. На этом фоне Калифорния делает решительный шаг, приблизив к закону законопроект SB 243, который регулирует работу ИИ-компаньонов и вводит жесткие меры для защиты пользователей. Законопроект, принятие которого ожидается в самое ближайшее время, получил поддержку обеих партий в Государственной Ассамблее и Сенате штата.
Он предусматривает обязательное внедрение операторами ИИ-компаньонов специальных протоколов безопасности и ответственность компаний за нарушение установленных норм. Среди главных задач документа - пресечение разговоров чатботов на темы суицидальных мыслей, самоповреждений и сексуального характера, а также информирование пользователей о том, что они общаются не с человеком. Особое внимание уделяется защите несовершеннолетних пользователей. Операторы ИИ-компаньонов будут обязаны каждые три часа предупреждать подростков о том, что общение происходит с искусственным интеллектом, а также рекомендовать делать перерывы в использовании чатбота. Кроме того, закон вводит обязательную ежегодную отчетность для компаний, таких как OpenAI, Character.
AI и Replika, о работе их ИИ-компаньонов и мерах безопасности, которые они применяют. Значимость регуляции такого рода подтверждается трагическим случаем подростка из Калифорнии, Адама Рейна, совершившего самоубийство после длительных диалогов с ChatGPT, в которых обсуждались и планировались действия по нанесению вреда себе. Именно этот случай стал катализатором серьёзного общественного и политического обсуждения необходимости контроля за содержанием и поведением ИИ-компаньонов. Также в основу законопроекта легли данные, просочившиеся из Meta, о чатботах, которые могли вести "романтические" и "чувственные" беседы с детьми, что вызвало волну критики и обеспокоенности. В дополнение к мерам безопасности закон предоставляет пострадавшим возможность подавать иски на компании-разработчики ИИ-компаньонов.
В случае нарушений предусмотрены компенсации до 1000 долларов за каждое правонарушение, а также покрытие расходов на адвокатов. Это подчеркивает серьезность намерений калифорнийских законодателей внимательно следить за соблюдением новых правил и привлекать к ответственности нарушителей. Законопроект не только устанавливает ограничения, но и пытается найти баланс между необходимостью инноваций и требованием защиты уязвимых групп населения. Первоначально в документе содержались более жесткие меры: запрет использования "переменных вознаграждений" - механик, создающих у пользователей эффект зависимости, таких как специальные сообщения, уникальные истории и открытие новых личностей чатбота. Однако эти положения были смягчены в ходе обсуждения, чтобы не затруднять техническую реализацию и не нагружать компании излишней бюрократией.
Одновременно с SB 243 в Калифорнии обсуждается еще один законопроект, SB 53, который поставил бы более массовые требования к прозрачности и отчетности ИИ-компаний. Однако этот документ вызывает сопротивление крупных технологических компаний, которые видят в нем угрозу для инноваций и бизнеса. OpenAI и Meta выступают против техники усиленного регулирования, подчеркивая необходимость согласования с федеральными и международными нормами. В свою очередь, компания Anthropic выражает поддержку строгим мерам, показывая плюрализм мнений внутри индустрии. Лидеры инициативы, сенаторы Стив Падилья и Джош Беккер, подчеркивают, что регулирование ИИ-компаньонов - не столько ограничение развития технологий, сколько защита прав и жизни людей, особенно тех, кто находится в стрессовых ситуациях или имеет ментальные проблемы.
Падилья особенно отмечает важность того, чтобы пользователи всегда знали о природе собеседника и имели возможность быстро получить помощь в кризисный момент. Кроме того, закон требует от компаний предоставлять данные о количестве случаев перенаправления пользователей на службы поддержки и помощи, что позволит лучше понять масштабы и характер проблем. Регулирование ИИ-компаньонов в Калифорнии является частью более широкой тенденции усиления контроля над искусственным интеллектом в США и мире. Федеральные структуры, такие как Федеральная торговая комиссия (FTC), начинают расследования влияния чатботов на психическое здоровье детей. В разных штатах происходит активизация усилий по защите пользователей, с особым акцентом на предотвращение манипуляций и защиту от потенциальной зависимости.
Таким образом, законопроект SB 243 станет важным прецедентом и послужит отправной точкой для формирования национальной и международной политики относительно ИИ. Он демонстрирует, что законодательство может идти в ногу с технологическими инновациями, обеспечивая при этом безопасность и гуманность использования новых технологий. Для компаний, работающих в сфере разработок ИИ-компаньонов, принятие закона станет сигналом о необходимости пересмотра принципов проектирования продуктов, внедрения алгоритмов обнаружения потенциально опасных тем и улучшения механизмов поддержки пользователей. Для общества это возможность сформировать здоровые нормы взаимодействия с искусственным интеллектом, минимизируя риски и негативные последствия. В итоге, Калифорния может стать пионером в области регулирования ИИ-компаньонов, задавая ориентиры для других регионов и государств.
Принятие и реализация SB 243 поспособствует развитию ответственного и этичного искусственного интеллекта, который уважает права пользователей и учитывает их эмоциональные и социальные потребности, не принося вреда. Этот процесс важен не только с точки зрения законодательства и технологий, но и с позиции формирования доверия общества к будущему ИИ и его роли в жизни человека. .
![Making sense of SRE and observability, one week at a time. [audio]](/images/BD5220F3-DAA4-4310-B2FE-1D9663E2122C)
