ВКонтакте появился фильтр враждебных высказываний

Нейросеть ВКонтакте поможет пользователям реже сталкиваться с травлей в комментариях сообществ. Администраторам стал доступен специальный, основанный на работе нейросети, фильтр для борьбы с враждебными высказываниями. Его  можно включить и отключить в настройках сообщества в любое время, при этом по умолчанию он отключён. Функция уже появилась у владельцев 50% пабликов, а скоро станет доступна всем.

Сейчас фильтрующий алгоритм умеет определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Однако в будущем он научится распознавать и другие признаки нетерпимости — например, травлю по национальной или религиозной принадлежности. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев.


ВКонтакте уже протестировала фильтр 4 ноября 2020 года. Ровно сутки новая функция была доступна всем пабликам соцсети, а затем лишь определенной части аудитории. Во время тестового периода функцией воспользовались руководители свыше 10% всех сообществ ВКонтакте — это 13 млн публичных страниц, групп и мероприятий. Администраторы сообществ оценили работу нейросети — среди подключивших фильтр комментариев от него впоследствии отказались лишь 1,8%. При этом многие писали в Поддержку с просьбой активировать функцию.

Напомним, ВКонтакте запустила нейросеть для борьбы с враждебными высказываниями в августе прошлого года. Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.

Источник: ВКонтакте
subscribe

Подпишитесь на рассылку SearchEngines

— Статьи мировых экспертов

— Аналитические обзоры

— Важные новости

— Горячие темы с нашего форума

preview В Facebook Ads Manager появится упрощённая панель управления

В Facebook Ads Manager появится упрощённая панель управления

Соцсеть также запустит ещё несколько полезных функций для СМБ
preview Одноклассники сняли собственную комедию

Одноклассники сняли собственную комедию

Премьера приурочена к 15-летию соцсети
preview 1,8 млрд пользователей посещают группы в Facebook каждый месяц

1,8 млрд пользователей посещают группы в Facebook каждый месяц

Исследование NYU's The Governance Lab
preview Twitter работает над новым режимом Safety Mode

Twitter работает над новым режимом Safety Mode

С автоматической блокировкой оскорбительных твитов и спама
preview Twitter анонсировал функцию платной подписки на контент Super Follows и запуск групп

Twitter анонсировал функцию платной подписки на контент Super Follows и запуск групп

Сроки их появления пока неизвестны
preview TikTok согласился выплатить $92 млн по иску о нарушениях конфиденциальности в США

TikTok согласился выплатить $92 млн по иску о нарушениях конфиденциальности в США

Компания не стала начинать длительные судебные тяжбы