Социальная сеть «Одноклассники» запустила технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях. Новый алгоритм будет оценивать тексты и изображения в комментариях на наличие токсичного содержания, после чего выдавать оценку модераторам для проверки. Авторы комментариев с угрозами и враждебными высказываниями получат временное ограничение на участие в дискуссиях.

Как рассказали в пресс-службе ОК, технология уже работает на всех платформах. В веб-версии «Одноклассников» появилась блокировка комментариев для тех пользователей, которые получили временный запрет за агрессию. В ближайшее время эта функция появится и в приложениях на iOS и Android.

«Все призывы к разжиганию ненависти и ксенофобии по отношению к любой нации или другой группе людей, в том числе с использованием нецензурной лексики, а также угрозы другим пользователям будут блокироваться. При анализе изображений в комментариях алгоритм определит наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены. Технология запущена в рамках глобального построения безопасности VK.

Пользователи, которые нарушают правила соцсети и выражают свое мнение враждебно по отношению к другим, получат временный запрет на комментирование любого контента в ОК. При попытке оставить комментарий соцсеть покажет уведомление и ссылку на правила поведения. Кроме того, авторы комментариев могут получить временный «отдых» от дискуссий, если на их высказывания поступает много жалоб и система определила их как токсичные и агрессивные», – говорится в сообщении соцсети.

Москва, Ангелина Сергеева

© 2022, РИА «Новый День»