В последние годы технологии искусственного интеллекта стремительно развиваются, открывая новые возможности для творчества, развлечений и коммуникаций. Однако с этим прогрессом возрастает и опасность злоупотребления новыми инструментами. Одним из самых тревожных явлений современного цифрового мира стал рост мошенничества, связанного с использованием дипфейк-видео. Эта технология позволяет создавать высококачественные подделки видеоконтента, где лица известных или обычных людей могут быть помещены в ситуации, которых на самом деле не происходило. В Малайзии за последний год количество выявленных и удалённых социальных постов, связанных с мошенничеством и дипфейк-видео, выросло в десять раз — с 6 297 случаев в 2023 году до 63 652 в 2024 году.
Эти данные были озвучены заместителем министра связи Малайзии Тео Ни Чинг и подчеркивают масштаб проблемы, с которой сталкивается страна, а также многие другие государства. Одним из основных направлений злоупотребления дипфейками в соцсетях является создание видеороликов с участием влиятельных лиц, таких как премьер-министр страны, бывший глава центрального банка и знаменитые спортсмены. Например, был замечен искусственно созданный ролик, где известная общественная фигура якобы делится инвестиционными советами на языке, который она обычно не использует публично. Такие видео часто используются мошенниками для обмана пользователей, заманивания их в мошеннические группы общения, например в мессенджерах, где затем происходит попытка незаконного получения финансов или личной информации. Современное развитие технологий искусственного интеллекта значительно облегчает создание подобных материалов.
В результате выявлять и своевременно блокировать недостоверный контент становится всё сложнее, так как качество подделок достигает высокого уровня, вводя многих пользователей в заблуждение. Помимо финансового мошенничества, дипфейки способны серьёзно подорвать репутацию отдельных лиц и организаций, вызвать социальные и политические кризисы, способствуя распространению дезинформации и фейковых новостей. В этом контексте крайне важна роль государственных регуляторов и социальных платформ в борьбе с угрозами, связанными с дипфейками. В Малайзии, например, Комиссия по коммуникациям и мультимедиа активно работает над выявлением и удалением подозрительного контента. Однако в условиях постоянного роста потоков медиаинформации и совершенствования технологий модерация становится всё более сложной задачей.
Социальные сети и видеоплатформы были призваны усилить контроль над распространяемым контентом, в том числе маркировать материалы, созданные искусственным интеллектом, таким образом информируя пользователей и снижая риск обмана. По словам представителей властей, вовсе не подразумевается запрет на использование AI-генерированного контента — речь идёт о необходимости прозрачности и ответственности. Помимо мер на государственном и платформенном уровне, одной из важнейших составляющих защиты от дипфейк-мошенничества является повышение цифровой грамотности общества. Пользователи должны уметь распознавать признаки подделок, проявлять критическое мышление и быть осторожными при получении информации, особенно если она исходит из непроверенных или неизвестных источников. Информационные кампании, образовательные программы и инициативы по развитию навыков проверки фактов в интернете играют ключевую роль в укреплении защитных механизмов населения.
В то же время действия по юридическому преследованию виновных в создании и распространении дипфейков также являются важным элементом снижения масштабов проблемы. Однако для успешной борьбы необходим международный диалог и сотрудничество, так как технологии и злоумышленники не знают государственных границ. В дополнение к кибербезопасности, правительственные структуры Малайзии продолжают развивать инфраструктуру связи, чтобы улучшить качество и доступность цифровых услуг по всей стране. С ростом цифровой грамотности и положительных изменений в телекоммуникационной сфере население получает более надёжные инструменты для защиты от онлайн-мошенничества. Таким образом, ситуация с ростом использования дипфейков в мошеннических схемах иллюстрирует, как современные технологии, открывая колоссальные возможности, одновременно порождают новые угрозы.
Только комплексный подход, включающий регулирование, технические решения, просвещение и правоприменение, позволит минимизировать негативные последствия и обеспечить безопасность пользователей в цифровом пространстве. Важно помнить, что ответственность за предотвращение мошенничества лежит не только на государственных органах и платформах, но и на каждом из нас. Осознанное поведение в интернете, критическое восприятие информации и готовность обращаться к официальным источникам помогут сохранить безопасность в новом технологическом мире.
