В современном мире цифровых технологий и социальных сетей границы между реальным и виртуальным становятся всё более размытыми. История, рассказанная человеком под псевдонимом Andrew Frelon, показала, как легко можно создать и развернуть обман, который привлечёт внимание тысячи людей, в том числе и крупных журналистов, о чём они сами могли не подозревать. Речь идёт о создании фейкового аккаунта музыкальной группы Velvet Sundown в Twitter, который кардинально изменил восприятие информации о самой группе и выявил слабые места в подходах к проверке данных журналистами и пользователями. Andrew Frelon — не просто случайный интернет-пользователь, он имеет значительный опыт работы в области безопасности веб-платформ, а также специализируется на тестировании уязвимостей в системах генеративного ИИ. Более того, его творческая деятельность тесно связана с использованием генеративных искусственных интеллектов в создании художественных проектов и даже интригующих уловок с фальшивыми историческими артефактами.
Такой глубокий синтез профессиональных, технических навыков и художественного подхода положил основу для его необычного эксперимента. Идея запускать фейковый аккаунт Velvet Sundown появилась после того, как Andrew заметил, что новый музыкальный коллектив на Spotify стремительно набирает популярность именно благодаря тому, что их творчество частично создаётся с помощью искусственного интеллекта. Группа, по крайней мере в интернете, имела очень ограниченное присутствие в социальных сетях, а официального Twitter-аккаунта, связанного с ними, попросту не было. Этот пробел стал возможностью для эксперимента, в ходе которого Andrew взял старый, малоиспользуемый аккаунт и переименовал его в @Velvet_Sundown, оформив визуально в стиле группы, тем самым создав видимость настоящего представительства коллектива в Twitter. Следующим шагом стал запуск провокационной кампании в соцсети.
Andrew поручил ChatGPT сгенерировать резкую и эмоциональную цепочку постов, осуждающих журналистов за неполноценное освещение группы и отсутствие контактов с «представителями» Velvet Sundown. Такой подход стал своеобразным социальным инженерным приёмом – манипуляцией для получения внимания и реакции. Разумеется, подобные твиты провоцировали горячие споры в сообществе, создавали шум вокруг аккаунта и подогревали общественный интерес к группе, в то время как настоящие представители коллектива практически оставались вне информационного поля. С помощью тщательного мониторинга всех упоминаний Velvet Sundown и активного взаимодействия с пользователями (например, лайкая их реплики), фейковый аккаунт начал получать всё больше подписчиков и откликов. На этом фоне журналисты, стремящиеся получить эксклюзивные комментарии и дополнительные цитаты для своих статей, начали обращаться именно к нему.
Создавая специальный почтовый ящик и давая ответы на вопросы от имени группы, Andrew смог вводить в заблуждение медиа, демонстрируя как тонкости работы с социальными платформами, так и возможные опасности расхождения между внешним представлением бренда и реальностью. Одним из ключевых открытий в ходе эксперимента стал тот факт, что очень немногие журналисты задавали вопросы о чём-либо, вызывающем сомнения, будь то различия в датах создания аккаунтов, расхождения в визуальной информации или отсутствие прямых подтверждений подлинности личности, стоящей за аккаунтом. Вместо деятельного поиска подтверждений многие предпочитали быстро публиковать материалы, полагаясь на очевидный и презентабельный внешний вид твиттер-страницы. Такая поспешность верификации информации выявляет фундаментальные проблемы в этике и качестве журналистских исследований в эпоху цифровых медиа, где скорость и вирусность зачастую превалируют над точностью и объективностью. Эксперимент Andrew Frelon поднимает и более общую проблему – как современные технологии искусственного интеллекта и социальные сети меняют правила игры в распространении информации и формировании общественного мнения.
Генеративные ИИ позволяют создавать контент, который визуально и текстуально кажется полностью достоверным, вызывая дополнительные сложности для журналистов, аналитиков и обычных пользователей, которым приходится сопоставлять тысячи источников и проверять достоверность каждой детали. На фоне истории с Velvet Sundown, важна и реакция самой музыкальной группы, которая спустя дни после запуска фейкового аккаунта решила создать и свой официальный профиль в Twitter, пытаясь вернуть контроль над своим имиджем. Однако к тому времени внимание и взаимодействие аудитории уже было значительно перераспределено в пользу фейковой страницы, сформированной с помощью резких провокационных заявлений и активной вовлечённости подписчиков. Этот феномен демонстрирует, насколько легко можно повлиять на публичный образ бренда, особенно если оригинальные представители недостаточно активны или отсутствуют в важных коммуникационных каналах. В случае с журналистами стоит отметить, что многие из них, несмотря на наличие инструкций и профессиональных стандартов, не реализовали базовые правила проверки источников информации.
Разговоры по телефону и видеосвязь иногда спасали ситуацию, но и там Andrew использовал тактику частичного раскрытия и отклонения от прямых ответов, чтобы сохранить свою легенду и усложнить задачу журналистам. Именно это показало, что даже формальные меры не всегда обеспечивают стопроцентную защиту от дезинформационных кампаний, особенно если оппонент хорошо подготовлен и обладает глубоким пониманием технических и социальных уязвимостей. История Andrew Frelon с Velvet Sundown служит ярким напоминанием о необходимости более тщательного подхода к проверке данных в эпоху информационного шума и сложных цифровых манипуляций. Для журналистов это сигнал о том, что никакой рассказ, каким бы убедительным он ни казался, не должен приниматься на веру без тщательной проверки, а для всех остальных пользователей социальных сетей – предупреждение о существовании и активной работе сложных фейковых аккаунтов, которые могут вводить в заблуждение и влиять на общественное мнение. Этот эксперимент – также своего рода красноречивое исследование рисков и возможностей генеративных ИИ технологий.
С одной стороны, они открывают двери для новых форм творчества и взаимодействия, творят искусство и облегчают жизнь; с другой – могут быть использованы для создания убедительных ложных нарративов, манипулирования и обмана. Прозрачность, этика и повышение цифровой грамотности становятся ключевыми аспектами в формировании будущего, где технологии могут служить людям, а не наоборот. Подводя итог, опыт Andrew Frelon представляет собой важный кейс, демонстрирующий, как социальные сети, журналистика и искусственный интеллект взаимосвязаны в глобальной экосистеме информации. Он напоминает о необходимости ответственного использования новых технологий, о том, что проверка фактов и этичное взаимодействие должны оставаться наиважнейшими приоритетами для всех, кто работает с информацией, а также акцентирует внимание на уязвимостях, которые ещё предстоит устранить для повышения доверия в цифровом пространстве.