Виталик Бутерин, сооснователь Ethereum и одна из ключевых фигур криптовалютного сообщества, недавно выразил серьёзную обеспокоенность использованием искусственного интеллекта (ИИ) в управлении криптовалютными проектами. Его точка зрения акцентирует внимание на существующих рисках, которые несут "джейлбрейки" (jailbreaks) - методы обхода стандартных ограничений ИИ, способные привести к утечкам данных и злоупотреблениям в системе. Обсуждение вопросов ИИ в управлении децентрализованными автономными организациями (DAO) и криптопротоколами приобретает всё большую актуальность, поскольку технологии постоянно развиваются, а интерес к применению ИИ растёт. Бутерин высказался против полностью автоматизированного стороннего контроля над распределением финансирования и принятием решений в криптосообществах. Основная угроза, которую он идентифицирует, заключается в том, что злоумышленники смогут использовать уязвимости ИИ-систем для внедрения "джейлбрейков" с целью получить несанкционированный доступ к финансам проекта.
Он аргументирует, что если доверить ИИ регулирование фандрайзинга и голосования по важным вопросам, то вскоре найдутся люди, которые модифицируют ИИ-запросы так, чтобы искусственный интеллект "научился" выдавать все средства под их контроль. Эта ситуация ставит под угрозу безопасность и прозрачность криптопроектов. Наблюдения Бутерина были вызваны выявлением конкретной уязвимости в последнем обновлении ChatGPT от OpenAI. Этот ИИ-инструмент теперь поддерживает так называемый Model Context Protocol, позволяющий интегрировать ИИ с другими программами и заставлять его действовать как агент. К сожалению, разработчики этой технологии не смогли предусмотреть, что злоумышленники смогут посылать, например, взломанные запросы через приглашения в календаре, которые ИИ автоматически обработает, раскрывая при этом приватные данные и позволяя одним пользователям манипулировать системой в ущерб другим.
Такой способ атаки - это классический пример "социального инжиниринга" на уровне искусственного интеллекта, где пользователи в силу своей неопытности или усталости от постоянных запросов подтверждают действия ИИ без должной проверки. В результате далеко не всегда можно вовремя выявить попытки взлома, что усугубляет проблему. Бутерин подчёркивает, что даже самый продвинутый интеллект подвержен трюкам, где "глупые" ошибки пользователей приводят к серьёзным утечкам данных и компрометации систем. Важно понимать, что внедрение ИИ в сферу криптоуправления пока ещё находятся в зачаточном состоянии и требует тщательной проработки с точки зрения безопасности. Хотя ИИ с одной стороны - инструмент, способный значительно автоматизировать анализ данных, прогнозирование и управление ресурсами, с другой - он остаётся уязвимым к сложным манипуляциям.
Именно поэтому Бутерин выступает за более осторожный и продуманный подход в интеграции ИИ в блокчейн-среду. Вместо того чтобы полагаться на единственный ИИ-модель, он предлагает альтернативный и более устойчивый метод, называемый "инфо-финансовым подходом". Суть этого концепта заключается в создании открытого рынка, на котором любой желающий может предложить свою модель или инструмент для обработки информации. Эти модели не будут работать в изоляции. Вся система будет оснащена механизмом выборочной проверки, в котором любой участник сообщества сможет инициировать ревизию и оценку работы той или иной модели при помощи человеческого жюри.
Такой подход обеспечивает несколько важных преимуществ. Во-первых, создаётся разнообразие моделей в реальном времени, что защищает систему от сбоев или манипуляций, связанных с одним конкретным алгоритмом. Во-вторых, в системе появляются встроенные стимулы для участников, которые разрабатывают прогнозы, а также для сторонних наблюдателей, которые следят за корректностью работы моделей и могут вносить коррективы при необходимости. Благодаря такой децентрализации на уровне ИИ снижается вероятность, что один игрок сможет воспользоваться уязвимостью в системе во вред всему сообществу. Виталик Бутерин уже ранее писал об "инфо-финансовом подходе" в 2024 году, когда подробно рассматривал возможность создания специальных рынков прогнозов.
Эти рынки фокусируются на оптимальном сборе информации о будущем, что помогает принимать более обоснованные решения. Для криптопроектов это означает, что управление может основываться на коллективной мудрости и реальных данных, а не на жёстко заданных алгоритмах, подверженных атакам и ошибкам. Этот взгляд вызывает широкие дискуссии среди экспертов криптосферы и индустрии искусственного интеллекта. С одной стороны, использование ИИ для автоматизации управления могло бы снять нагрузку с человеческих команд, повысить скорость принятия решений и снизить влияние субъективности. С другой стороны, учитывая текущие риски, необходимо проводить разработку и внедрение технологий осторожно, создавая параллельные защитные механизмы и сохраняя человеческий контроль в критических точках.
Вывод Виталика Бутерина можно считать важным сигналом для всех, кто планирует проектировать системы управления и финансирования в мире криптовалют через ИИ. Текущие достижения искусственного интеллекта все ещё уязвимы, а способность злоумышленников находить обходные пути ставит под сомнение возможность полного доверия такой технологии. Пользователи и разработчики должны понимать, что несмотря на привлекательность автоматизации, главными приоритетами остаются безопасность, прозрачность и устойчивость экосистемы. Применение гибридных моделей, которые сочетают в себе интеллект машин и проверку людей, кажется наиболее оптимальной стратегией на данный момент. Таким образом, обсуждение Виталика Бутерина о рисках ИИ в криптоуправлении помогает раскрыть более глубокую проблему современного цифрового мира - как найти баланс между инновациями и безопасностью.
Урок из этого процесса - не торопиться с полным доверием к новым технологиям, а разрабатывать институциональные механизмы, в которых инновации будут дополняться механизмами контроля и ответственности. Криптоэкосистема стоит на пороге больших перемен, и позиция одного из её ведущих умов помогает сформировать направление, в котором развитие искусственного интеллекта и блокчейн-технологий может идти бок о бок, минимизируя потенциальные угрозы и максимально раскрывая возможности. Внимательное отношение к идеям, таким как "инфо-финансы" и разнообразие моделей, станет одним из ключевых аспектов обеспечения надежного и устойчивого будущего децентрализованных систем. .
