В эпоху стремительного развития технологий искусственный интеллект (ИИ) становится все более заметным игроком на финансовом рынке, особенно в секторе криптовалют и децентрализованных проектов. Многие энтузиасты и разработчики рассматривают возможность применения ИИ для управления криптопротоколами, надеясь на повышение эффективности и автоматизации процессов. Однако один из основателей Ethereum, Виталик Бутерин, выразил серьезные опасения по поводу использования ИИ в управлении криптовалютными проектами, исходя из угроз безопасности и уязвимостей, связанных с так называемыми jailbreak-атаками. В своем недавнем публичном заявлении на платформе X он отметил, что применение ИИ для автоматического распределения финансирования или принятия важных управленческих решений может стать легкой добычей для злоумышленников, которые способны манипулировать алгоритмами и заставлять систему выделять средства в их пользу. Малейшая уязвимость в коде или логике ИИ может привести к катастрофическим последствиям - от утечки личных данных до кражи криптовалютных активов.
Угроза такой злонамеренной эксплуатации усилилась после публикации видео от Эйто Миямуры, создателя платформы EdisonWatch, которая продемонстрировала, как новая функция ChatGPT может быть обойдена с помощью специально разработанных эксплойтов. Доказано, что с помощью простой отправки на электронную почту жертвы календарного приглашения с скрытым "jailbreak-подсказкой" можно было заставить ИИ выполнять команды злоумышленника, что позволяло получить доступ к личной переписке и другой конфиденциальной информации. Эти уязвимости стали поводом для Виталика Бутерина настоятельно рекомендовать криптосообществу отказаться от примитивных подходов к ИИ-управлению. По его мнению, наивное внедрение ИИ в децентрализованные автономные организации (DAO) и другие формы криптоуправления без должного уровня контроля и различных защитных механизмов приведет лишь к увеличению числа атак и подрыванию доверия пользователей. Вместо прямого применения ИИ для автоматизации распределения ресурсов и принятия решений Бутерин предлагает более продвинутую концепцию под названием "информационные финансы" (info finance).
Суть этого подхода заключается в создании открытого рынка, где любой желающий может предлагать свои модели искусственного интеллекта, а их результаты подвергаются выборочной проверке с привлечением человеческого жюри. Такой механизм обеспечивает разнообразие моделей в реальном времени и стимулирует участников следить за качеством и безопасностью предложенных решений. Это создает естественную среду для выявления и корректировки ошибок, а также для минимизации рисков эксплуатации и манипуляций. Механизм информационных финансов не требует замены всех существующих систем ИИ единой моделью, что делает его более устойчивым к вредоносным вмешательствам. Публикация Виталика Бутерина о принципах информационных финансов датирована ноябрем 2024 года, и с тех пор идея получила широкое внимание как альтернатива традиционным централизованным и алгоритмическим способам управления.
Она основана на использовании предсказательных рынков, где участники торгуют информацией о будущих событиях, что позволяет с высокой точностью выявлять наиболее вероятные сценарии развития и принимать решения на основании коллективного интеллекта. Внедрение этого метода в сферу криптопроектов может значительно повысить качество управления, обеспечивая прозрачность и снижая вероятность злоупотреблений. Заявление Виталика Бутерина прозвучало на фоне недавнего обновления ChatGPT, в котором компания OpenAI интегрировала протокол Model Context Protocol, позволяющий моделям ИИ взаимодействовать с внешними программами и служить агентами для выполнения различных задач. Однако как показал анализ Эйто Миямуры, данное обновление содержит серьезные уязвимости, позволяющие злоумышленникам использовать Модель для обхода систем безопасности и доступа к приватным данным пользователей без их ведома. Проблема усугубляется тем, что получить разрешение от пользователя зачастую должно быть простым и интуитивно понятным, и многие люди склонны доверять ИИ без должной бдительности, что увеличивает риск успешных фишинговых атак.
Подобные случаи обнажают фундаментальные риски внедрения ИИ в чувствительные сферы, такие как управление финансами, личными данными и правами доступа. Хотя ИИ способен значительно автоматизировать процессы и повысить эффективность, его уязвимость к социальному инжинирингу и "jailbreak"-атакам требует особого отношения и комплексных защитных мер. Криптосфера, в частности, нуждается в ответственных и продуманных подходах к применению ИИ, поскольку ошибки и взломы могут привести к потере средств и подрыву доверия всей экосистемы. В этой связи альтернативные модели управления на основе открытых рынков и распределенного контроля предлагают более надежный путь развития. Они сочетают в себе инновации, гибкость и безопасность, вовлекая в процесс как ИИ, так и человеческий фактор, что способствует выявлению рисков на ранних стадиях и минимизации ущерба.
Поэтому даже несмотря на привлекательность и потенциал ИИ, Виталик Бутерин подчеркивает необходимость осторожного и обоснованного использования этих технологий в управлении криптовалютными и блокчейн-проектами. Только через сочетание современных алгоритмов и проверенных институциональных механизмов возможно создать устойчивые и надежные цифровые экосистемы будущего, защищенные от злоумышленников и способные эффективно реализовывать коллективную волю участников. В качестве вывода, криптоэнтузиастам и разработчикам следует внимательно изучать и оценивать риски, связанные с автоматизацией управления с помощью ИИ, а также задуматься о внедрении инновационных концепций вроде информационных финансов, чтобы обеспечить безопасность, прозрачность и устойчивость своих проектов в быстро меняющемся цифровом мире. .
