Соцсеть Одноклассники начала использовать искусственный интеллект для временной блокировки тех пользователей, которые допускают в своих комментариях оскорбления и негативные высказывания.
Модель машинного обучения быстро выявляет токсичные сообщения. Их авторы не смогут писать новые комментарии в течение определенного периода времени, который может длиться от одного до 24 часов в зависимости от степени активности такого пользователя.
Ранее соцсеть провела исследование и выяснила, что у 40% пользователей оскорбления и негатив в комментариях вызывают злость. Для обучения модели использовались 400тысяч негативных высказываний. Кроме этого, искусственный интеллект помог сократить время для обработки жалоб на токсичные посты в 3 раза. В соцсети отметили, что 80% всех поступающий жалоб касаются токсичности сообщений.
Ранее сообщалось, что в 2024 году была запущена модерация на базе машинного обучения, которая автоматически обнаруживает в комментариях нецензурные выражения и скрывает их. В прошлом году соцсеть Одноклассникизапустила модель, которая способна ограничивать навязчивыезнакомства и нежелательное общение с некоторыми пользователями.
Фото: freepik.com