ВКонтакте заработал алгоритм распознавания и блокировки «запрещенного» контента

Социальная сеть ВКонтакте начала использовать «обученный» алгоритм собственной разработки, который присваивает картинкам специальный рейтинг, определяя, содержится ли в них противоправный или «опасный» контент. Как сообщают «Известия», со ссылкой на представителей компании, выявленный «запрещенный» контент либо не попадает в поисковую выдачу и «умную» новостную ленту, либо полностью блокируется. Технология также способна анализировать текстовые надписи на изображениях.

Нейросеть умеет определять предметы и сущности, изображенные на фото. Она понимает не только «человек», «ребенок», «животное», «растение», но и может определить, например, предмет одежды, символ «групп смерти». В целом нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям - от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет. Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.

Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.

Андрей Законов, руководитель направления Big Data и Machine Learning ВКонтакте:

«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент».

Напомним, в декабре 2016 года стало известно, что Роскомнадзор совместно с Mail.ru Group и заинтересованными ведомствами разрабатывают научную методику для осуществления оперативного мониторинга и выявления материалов и сообществ, посвященных самоубийствам.

Кроме того, социальная сеть ВКонтакте плотно сотрудничает со специалистами фонда «Твоя территория» для мониторинга и блокировки профилей и сообществ, оказывающих негативное влияние на подростков.

subscribe

Подпишитесь на рассылку SearchEngines

— Статьи мировых экспертов

— Аналитические обзоры

— Важные новости

— Горячие темы с нашего форума

preview Google работает над новым социальным фотоприложением

Google работает над новым социальным фотоприложением

Издание TechCrunch выяснило, что Google работает над новым социальным приложением. С его помощью пользователи смогут совместно редактировать и организовывать фотографии
preview Microsoft временно отключил поиск в Docs.com из-за утечки документов

Microsoft временно отключил поиск в Docs.com из-за утечки документов

25 марта Microsoft отключил функцию поиска в Docs...
preview В Facebook Messenger появились реакции и упоминания

В Facebook Messenger появились реакции и упоминания

Facebook добавил две новые функции в Messenger – реакции и упоминания
preview Google Авиабилеты запустил продажи билетов на скоростные поезда

Google Авиабилеты запустил продажи билетов на скоростные поезда

Сервис Google Авиабилеты запустил продажи билетов на скоростные поезда
preview Instagram будет скрывать неприятный для пользователей контент

Instagram будет скрывать неприятный для пользователей контент

Instagram объявил о запуске новой функции, которая призвана сделать соцсеть ещё более безопасной и дружелюбной платформой
preview Функция Facebook Live стала доступна на ПК

Функция Facebook Live стала доступна на ПК

Facebook добавил поддержку сервиса прямых трансляций Live в веб-версию соцсети. Об этом сообщается в блоге компании