В современном цифровом мире социальные сети играют важнейшую роль в формировании общественного мнения, общения и развлечений. Однако за привлекательностью и удобством этих платформ скрывается серьёзная проблема - распространение токсичного контента, который характеризуется грубостью, неуважением и враждебностью в постах и комментариях. Недавние исследования подтверждают, что именно такой контент стимулирует большую вовлечённость пользователей, тем самым становясь мощным инструментом для алгоритмов социальных сетей. Но является ли такой эффект полезным для самих пользователей и общества в целом? Нужно разобраться, почему токсичность притягивает внимание и как это влияет на работу платформ и поведение людей.Суть бизнес-модели большинства социальных сетей основана на рекламе и максимальном удержании пользователей на платформе.
Чем дольше человек проводит время, просматривает контент и взаимодействует с ним, тем больше рекламных показов и кликов получают владельцы площадок. Для достижения этой цели алгоритмы подбирают для пользователей именно те публикации, которые вызывают максимальный отклик. В силу особенностей человеческой психики, негативный и эмоционально заряженный контент привлекает сильнее, вызывая любопытство, споры и желание высказать собственное мнение. Психология давно отмечает, что негативные события и эмоции намного сильнее воздействуют на наше внимание и поведение, чем позитивные. В итоге социальные сети оказываются заинтересованными в показе именно токсичных постов и комментариев, поскольку они обеспечивают повышенную активность.
Совместное исследование нескольких ученых, проведенное летом 2022 года, предлагает уникальный экспериментальный подход к выявлению влияния токсичности на поведение пользователей. 742 добровольца установили специальное расширение для браузера, которое в реальном времени скрывало токсичные публикации на Facebook, X (бывший Twitter) и YouTube. В основе автоматической фильтрации лежал алгоритм, который оценивал уровень токсичности текста и скрывал содержимое с показателем выше 0.2 по шкале от 0 до 1. Подобная граница означала, что примерно 2 из 10 пользователей признали бы сообщение токсичным.
Таким образом, эксперимент имитировал реалии контент-модерации популярных платформ.Результаты оказались наглядными: снижение показателя токсичности на лентах пользователей сопровождалось заметным падением времени, проведенного в социальных сетях. Так, на Facebook количество времени активного использования упало почти на 9%, сократилось количество отображенной рекламы и кликов по ней. Общий показатель вовлечённости, учитывающий различные метрики — количество лайков, репостов, просмотров и взаимодействий с контентом — снизился на всех трёх платформах, наиболее сильно на Facebook и наименее заметно на YouTube. Этот факт подтверждает предположение о том, что именно токсичный контент стимулирует пользователей дольше оставаться на сайте и активно реагировать на материалы.
Интересным феноменом стало поведенческое смещение аудитории: снизив токсичность в основных соцсетях, участники стали больше времени уделять альтернативным платформам типа Reddit. Данный эффект подсказывает, что пользователи ищут эмоционально насыщенный и вызывающий контент независимо от площадки, что ставит под вопрос эффективность снижения токсичности отдельно взятой социальной сети для общего благополучия цифрового пространства. Платформы при этом могут недооценивать подобные «перетоки» аудитории, что ведет к недоинвестированию в качественные меры модерации.Кроме того, выявлена важная особенность психологического характера — заразительность токсичности. Сокрытие токсичных публикаций не только уменьшало негативность в лентах, но и снижало уровень агрессивности и грубости в последующих собственных постах пользователей.
Это свидетельствует о наличии множительного эффекта: «чистка» контента оказывает долговременное влияние на поведение аудитории, способствуя формированию более цивилизованного общения.Для полноценного понимания вопроса был проведён дополнительный опрос с участием свыше четырёх тысяч респондентов. В исследовании изучалась реакция на разные уровни токсичности и сопоставлялась вовлечённость с субъективным чувством благополучия. Результаты подтвердили, что токсичные сообщения провоцируют больше любопытства и желание ознакомиться с обсуждениями, увеличивая клики и взаимодействия. Однако, одновременно часть таких публикаций снижала общее эмоциональное состояние пользователей, вызывая дискомфорт.
Таким образом, рост вовлечённости и положительное самочувствие далеко не всегда совпадают.Вышеупомянутое исследование подчёркивает существующий конфликт интересов в бизнес-моделях социальных сетей: с одной стороны стоит стремление к максимальной вовлечённости, поддерживаемое демонстрацией вызывающего, зачастую токсичного контента. С другой стороны — необходимость сохранения благополучия пользователей и снижение масштабов агрессии, что улучшит качество цифрового пространства в долгосрочной перспективе. При этом попытки снизить токсичность неизбежно ведут к падению ключевых показателей активности.Представляет интерес и идея регулирования алгоритмов рекомендаций, которые управляют отображением постов.
