Стоп буллинг: в «Одноклассниках» сократилась доля токсичных комментариев

Благодаря внедрению ИИ

Практически каждый из нас сталкивался с буллингом или токсичными комментариями под самими обычными постами или фото. А в последнее время, и вовсе, материалов с нецензурной лексикой, негативом и осуждением стало еще больше. Ввиду этого, разработчики социальной сети «Одноклассники» (ОК) внедрили в платформу искусственный интеллект, который позволил сократить долю токсичных высказываний на 47%.Новости СМИ2 Теперь любой контент, не отвечающий правилам общения площадки, выявляется в пределах от одного до 24 часов, а их авторы ограничиваются в написании гневных комментариев. На основе опроса ОК выяснилось, что около четверти пользователей испытывают негативные эмоции после получения провоцирующего или негативного комментария. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — объяснил Александр Москвичев, директор по продукту социальной сети. Прежде ОК научилась автоматически определять нецензурные слова и скрывать их, а также размывать изображения эротического характера. Напомним, ранее мы писали, что согласно результатам опроса «Одноклассников», 40% россиян не меняли пароли с момента первой регистрации. Подробнее читайте здесь.