Команда «Одноклассников» начала временно ограничивать пользователей, которые пишут оскорбительные комментарии. Как рассказали в пресс-службе, разработка на основе машинного обучения позволила сократить долю и количество негативных высказываний под публикациями, фотографиями и видео на 47%.
В соцсети внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других.
ML-модель была обучена на 400 тысячах высказываний, которые можно описать как недружелюбные или провоцирующие негативную дискуссию.
Ранее в 2024 году соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их, а также размывать изображения эротического характера.
