В «Одноклассниках» начали блокировать токсичных комментаторов

В соцсети «Одноклассники» стали временно ограничивать пользователей, которые пишут оскорбительные комментарии. Авторов негативных постов вычисляет нейросеть и блокирует их на определенный промежуток времени – от одного до 24 часов, в зависимости от того, как часто пользователь оставляет неприятные высказывания в адрес других.Новости СМИ2 ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию. Чтобы выяснить, какие комментарии, по мнению пользователей ОК, токсичны и нежелательны, соцсеть провела исследование среди своей аудитории. Запуск нейросети позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против «токсичности». Мы обучали эту модель больше года и продолжим совершенствовать ее в дальнейшем», – прокомментировал директор по продукту ОК Александр Москвичев. По данным ОК, разработка ИИ позволила сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%. Благодаря нейросетям в «Одноклассниках» уже автоматически скрываются нецензурные слова и размываются изображения эротического характера. ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент.