ВКонтакте тестирует фильтр враждебных высказываний

Сегодня, 4 ноября, ровно на сутки в настройках сообществ ВКонтакте появится возможность включить фильтр враждебных высказываний. 

Нейросеть будет удалять комментарии, в которых содержатся угрозы, — например, пожелания смерти или обещания причинить вред здоровью. При этом администратор сможет увидеть все комментарии, которые отсеял фильтр, и восстановить их или отправить автора в чёрный список. Как и другие фильтры в сообществах, фильтр враждебных высказываний можно включить или выключить в любой момент.


Результаты эксперимента будут использованы для дальнейшего обучения нейросети ВКонтакте и доработки фильтра.

Также ВКонтакте масштабирует ранее запущенный эксперимент: когда пользователь пишет комментарий, а алгоритмы определяют, есть ли в тексте признаки оскорблений. Если да, автор получает совет не тратить время на агрессию и отказаться от обидной реплики. В прошлом году благодаря такому предупреждению за сутки удалось сократить количество оскорблений в комментариях на 36%.

4 ноября предупреждение смогут увидеть все пользователи, а позже начнётся долгосрочный тест, рассчитанный на часть аудитории. По результатам эксперимента Команда ВКонтакте примет решение о дальнейшем использовании функци.

Напомним, ВКонтакте запустила нейросеть для борьбы с враждебными высказываниями в августе. Технология призвана ускорить время обработки жалоб и помочь пользователям реже сталкиваться с проявлениями нетерпимости.


Источник: ВКонтакте
subscribe

Подпишитесь на рассылку SearchEngines

— Статьи мировых экспертов

— Аналитические обзоры

— Важные новости

— Горячие темы с нашего форума

preview Одноклассники запустили «Марафоны»

Одноклассники запустили «Марафоны»

Тематические ленты фотографий с хештегом
preview WhatsApp упрощает удаление ненужных файлов

WhatsApp упрощает удаление ненужных файлов

Теперь можно легко просмотреть и удалить лишний контент
preview Snapchat позволил пользователям показывать число подписчиков

Snapchat позволил пользователям показывать число подписчиков

В публичном профиле
preview В Одноклассниках открылся колл-центр для жителей Санкт-Петербурга и области

В Одноклассниках открылся колл-центр для жителей Санкт-Петербурга и области

Туда можно обратиться с помощью кнопки «Позвонить» на сайте или в приложении соцсети
preview LinkedIn запустила отчёт по вовлечённости для B2B-маркетологов

LinkedIn запустила отчёт по вовлечённости для B2B-маркетологов

Он доступен в Campaign Manager
preview ВКонтакте запускает бесплатный конструктор сайтов на основе сообществ

ВКонтакте запускает бесплатный конструктор сайтов на основе сообществ

Настройка не требует никаких специальных знаний и занимает несколько минут