В последние годы с бурным развитием технологий искусственного интеллекта возникает всё больше вопросов, связанных с безопасностью, подлинностью и защитой цифрового контента. Одним из популярных методов идентификации ИИ-сгенерированных изображений стала технология цифрового водяного знака — уникальной, скрытой метки, встроенной в само изображение с целью обозначить его происхождение. Идея заключалась в том, чтобы помочь пользователям и системам распознавать «глубокие фейки», фальшивые или сгенерированные искусственным интеллектом фото и видео. Однако новое исследование команды учёных из Университета Ватерлоо (Ontario, Канада) сотрясает этот устоявшийся механизм защиты и ставит под сомнение надёжность таких меток. Специалисты представили инструмент под названием UnMarker, который способен за считанные минуты удалить цифровые водяные знаки из AI-изображений, практически не оставляя следов вмешательства и сохраняя визуальное качество на высоком уровне.
Этот прорыв раскрывает серьёзные уязвимости в системах маркировки, ранее считавшихся надёжными. Инструмент UnMarker, по словам разработчиков, работает эффективно вне зависимости от используемого алгоритма водяного знака. Он не требует знания технических параметров или внутренней структуры метки, не нуждается в дополнительной информации или обратной связи от детектора водяных знаков. В основе метода лежит принцип похожий на почтовый адрес на конверте — если изменить или испортить адрес, письмо не дойдёт до адресата. Аналогично, UnMarker выявляет часть изображения, через которую проходят сведения о водяном знаке (его «устойчивый носитель») и искажает эту область на уровне спектральных амплитуд пикселей, что делает дальнейшее обнаружение меток невозможным для стандартных систем.
В ходе испытаний технология успешно справилась с известными схемами водяных знаков, включая Yu1, Yu2, HiDDeN, PTW, Stable Signature, StegaStamp и TRW. После обработки изображений через UnMarker вероятность обнаружения метки снизилась до 43%, а во многих случаях — и ниже. Особенно впечатляющим оказалось снижение распознавания коммерческого решения Google SynthID с 100% до около 21%, несмотря на вариации в архитектурах и методах внедрения меток. Такие результаты свидетельствуют о том, что современные цифровые водяные знаки, несмотря на большие инвестиции и внушительную поддержку индустрии, не являются надёжным средством для распознавания ИИ-произведённого контента. Водяные знаки были поддержаны многими крупными технологическими компаниями и государственными структурами как способ борьбы с мошенничеством, распространением искорёженных или неприемлемых материалов, созданных или модифицированных при помощи искусственного интеллекта.
Крупнейшие игроки рынка, такие как Amazon, Google и OpenAI, активно инвестировали в развитие таких технологий в 2023 году и ранее. Однако появление инструментов, подобных UnMarker, ставит под сомнение эту идею, демонстрируя, насколько легко и быстро можно преодолеть встроенную защиту. В числе новых вызовов — необходимость создавать более совершенные системы, которые будут объединять не только механизмы маркировки, но и комплексную проверку подлинности, включая цифровые подписи, метаданные и другие методы аутентификации. Недавние исследования, проведённые учёными из DeepMind и Университета Висконсина в Мадисоне, также подчёркивают сложность объединения трёх ключевых свойств: надёжности, невозможности подделки и публичной обнаруживаемости одновременно. Они отмечают, что многие существующие схемы не удовлетворяют всем требованиям одновременно, в том числе и такие распространённые технологии, как C2PA, которые используют цифровую подпись в метаданных файла, а не влияние на сам пиксельный состав изображения.
Кроме того, несмотря на прогресс в области обнаружения фальсифицированного контента, ИИ продолжает расширять свои возможности, а вместе с тем усиливается и давление на индустрию безопасности в отношении разработки эффективных и устойчивых решений. Учёные из Университета Ватерлоо отмечают, что, хотя водяные знаки выглядели перспективным направлением с начала 2020-х, сегодня необходимо более тщательное и критическое отношение к их реальной эффективности и защите от злоумышленников. Ключевое послание исследователей заключается в том, что при создании новых защитных мер крайне важно учитывать потенциальные способы обхода или разрушения этих мер, а также не торопиться внедрять революционные технологии без полноценного анализа рисков и угроз. Учитывая масштабность распространения AI-генерированного контента и его негативное влияние в сферах мошенничества, распространения несанкционированных материалов и усиления цифровой дезинформации, вопрос аутентификации приобретает ещё большую значимость. Это означает, что в ближайшем будущем разработчики, технологические компании и регуляторы должны объединить усилия для создания эффективных и устойчивых систем, которые смогут воспрепятствовать злоупотреблениям, не создавая при этом ложного чувства безопасности у пользователей.
Несмотря на растущие скептические оценки ряда академических групп, индустрия цифровых водяных знаков не собирается сдавать позиции. Она представлена крупными игроками, обладающими значительными ресурсами и влиянием, а также законодательными инициативами, которые требуют обязательного использования подобных механизмов для контроля и прослеживаемости цифрового контента. Эксперты подчёркивают, что ситуация напоминает классическую гонку вооружений: разработчики методов защиты создают новые системы маркировки, тогда как злоумышленники одновременно совершенствуют средства их разрушения или обхода. Это подталкивает к поиску альтернативных подходов, среди которых можно выделить усиленные криптографические методы, расширенную аналитику поведения и происхождения контента, а также расширение сотрудничества между организациями и государствами для борьбы с цифровыми угрозами. В итоге, появление UnMarker напоминает, что в сфере цифровой безопасности нет ни одной универсальной панацеи, а каждое новое достижение требует вдумчивой аналитики и комплексного подхода.
Пользователям важно быть осведомлёнными, понимать ограничения применяемых технологий и сочетать различные методы для максимальной защиты от дезинформации и мошенничества. Современный этап развития искусственного интеллекта приводит к тому, что вопросы подлинности и безопасности цифрового контента выходят на передний план. Только интегрированный, многоуровневый подход, основанный на объединении технических, правовых и образовательных мер, позволит обеспечить население и организации эффективными инструментами защиты в быстро меняющемся цифровом мире.
