В современной технологической индустрии конфликт между компаниями и исследователями безопасности становится все более острым и значимым. Недавний случай с Cluely, компанией, специализирующейся на системах с ИИ, привлек широкое внимание общественности после того, как исследователь безопасности Джек Кейбл (Jack Cable) опубликовал твит с описанием системного промпта Cluely. В ответ на это Cluely подала DMCA-такедауна, заявляя о нарушении авторских прав и использовании «проприетарного исходного кода». Такая реакция вызывают вопросы не только о юрисдикции и правах на интеллектуальную собственность, но и об этике взаимодействия компаний с сообществом исследователей безопасности. Понимание сути конфликта между Cluely и Джеком Кейблом требует знакомства с особенностями DMCA-законодательства.
Digital Millennium Copyright Act (DMCA) — это американский закон, направленный на защиту авторских прав в цифровом пространстве. Он предоставляет владельцам авторских прав возможность требовать удаления контента, который, по их мнению, нарушает их права. Однако практика применения этого инструмента порой вызывает споры, особенно в случаях, когда речь идет об исследованиях безопасности и публикациях, направленных на улучшение информационной безопасности. Джек Кейбл, как опытный специалист в области кибербезопасности, провел реверс-инжиниринг или обратное проектирование клиентского десктопного приложения Cluely. В результате был обнаружен исходный код, в котором оказались раскрыты системные промпты, а также модели ИИ, применяемые в сервисе.
Публикация этой информации представляла интерес для сообщества, поскольку позволяло лучше понять внутренние механизмы работы приложения и потенциально выявить уязвимости. Такая прозрачность воспринимается как позитивный элемент, стимулирующий рост качества и безопасности продуктов. Ответ Cluely оказался резким: компания заявила, что опубликованная информация содержит их «проприетарный исходный код», что якобы нарушает их права. В результате был подан запрос на удаление поста пользователя. Данный шаг вызвал большую дискуссию в технических кругах и у специалистов по правам интеллектуальной собственности.
Многие посчитали, что применение DMCA в данном случае является попыткой подавить исследование и ограничить доступ к важной информации, полезной для сообщества. Аналитики подчеркивают, что использование DMCA-такедауна против исследователей безопасности не является редкостью, но всегда вызывает вопросы о границах между защитой авторских прав и правом общества на информацию. В случае с Cluely особенно остро стоит проблема природы системных промптов. Эти промпты, по сути, регулируют поведение чат-ботов и ИИ-сервисов, формируя ответы и поведение модели. Их охрана как интеллектуальной собственности может противоречить интересам открытости и аудита ИИ-систем с целью определения их безопасности и справедливости.
Важным аспектом является и общественное мнение. Джека Кейбла поддержали многие эксперты по безопасности и исследователи, призывая Cluely пересмотреть свою позицию и наладить диалог с исследовательскими сообществами. Они отмечают, что угроза судебными исками и использованием DMCA для удаления критических публикаций создаёт неприятный прецедент для отрасли. Вместо сдерживания, компании должны стремиться к прозрачности, что способствует повышению доверия пользователей и качеству продуктов. Кроме того, ситуация поднимает вопросы о государственной регуляции и международном правовом поле.
Поскольку DMCA является американским законом, его действие может расширяться и на пользователей за пределами США, что создает сложности для международного сотрудничества и обмена знаниями. В случае с ИИ и современными цифровыми системами, бенефициары технологий и исследователи безопасности часто находятся в разных странах, и отсутствие согласованных правил затрудняет разрешение подобного рода конфликтов. В техническом аспекте раскрытие системных промптов и кода может иметь как положительные, так и отрицательные последствия. С одной стороны, открытость помогает понять уязвимости, исправить их и повысить безопасность. С другой — раскрытие «проприетарных» данных может привести к утечке коммерческих секретов, что наносит урон компании.
Тем не менее, эксперты отмечают, что в условиях растущего влияния ИИ продуктов необходим компромисс, учитывающий интересы общества и бизнеса. Резюмируя, конфликт между Cluely и исследователем безопасности является отражением широкой проблемы взаимодействия технологических компаний с исследовательским сообществом в эпоху цифровой трансформации. Он поднимает важные вопросы о правах и обязанностях, о балансе между защитой интеллектуальной собственности и необходимостью обеспечения безопасности и прозрачности. Этот случай служит предупреждением для всего технологического сектора об осторожности в реакции на критику и научные публикации и необходимости диалога и сотрудничества для общего блага. По мере того как технологии развиваются, вопросы открытости и регулирования становятся все более значимыми.
Компании, такие как Cluely, должны найти пути, позволяющие сочетать защиту коммерческих интересов и поощрение независимых исследований. В противном случае риски утраты доверия пользователей и ухудшения имиджа будут только расти. В конечном итоге, открытость и диалог являются основой устойчивости и успеха в современном цифровом мире.
