Российская соцсеть сократила уровень токсичности в комментариях

В пресс-службе «Одноклассников» рассказали, что компания внедрила модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на период от одного часа до 24 часов — зависит от того, как часто пользователь оставляет негативные высказывания. В результате количество таких сообщений под постами, фотографиями и видео сократилось на 47 процентов.

По данным исследования, проведенного соцсетью, негативные посты вызывают злость у более чем 40 процентов опрошенных. «Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80 процентов обращений в службу поддержки по поводу комментариев нацелены против токсичности», — рассказал директор по продукту соцсети «Одноклассники» Александр Москвичев.

ML-модель была обучена на 400 тысячах недружелюбных высказываний. Ее запуск позволил сократить время обработки жалоб на токсичные посты в три раза и быстрее помочь людям с решением их проблем. «Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», — отметил Москвичев.

Ранее «Одноклассники» начали автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера. Соцсеть использует модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент, например, информацию для аудитории 18+. В 2023 году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.