Алгоритм YouTube рекомендует пользователям видео, которые нарушают собственные правила сервиса. Об этом свидетельствуют результаты нового краудсорсингового исследования Mozilla Foundation.
Полученные данные показали, что 71% видео, о просмотре которых волонтеры пожалели, активно рекомендовались алгоритмом YouTube.
При этом не говорящие по-английски пользователи с гораздо большей вероятностью находили видео, которые они считали тревожными: процент сожалений был на 60% выше в тех странах, где английский не является основным языком.
Отчет основан на данных, собранных посредством браузерного расширения RegretsReporter от Mozilla, которое позволяет пользователям сообщать о вредоносных видео и рекомендациях, которые к ним привели.
Инструмент используют более 30 000 человек. С июля 2020 года по май 2021 года они пометили в общей сумме 3362 видео в 91 стране. Самыми частыми категориями видео, «достойных сожаления», были дезинформация, насилие, язык ненависти, спам и мошенничество.
Mozilla также выяснила, что рекомендуемые видео на 40% чаще упоминались в сообщениях пользователей, чем те видео, которые они нашли самостоятельно.
Почти 200 видео, рекомендуемых алгоритмом (около 9% от общего количества), уже удалены с YouTube. Но к тому моменту они успели собрать в общей сумме 160 млн просмотров.
«Наше исследование подтвердило, что YouTube не только размещает, но и активно рекомендует видео, которые нарушают его собственные правила. Теперь мы также знаем, что люди из неанглоязычных стран чаще всего страдают от неконтролируемого алгоритма рекомендаций YouTube. Mozilla надеется, что эти результаты – которые являются лишь верхушкой айсберга – убедят общественность и законодателей в насущной необходимости повышения прозрачности искусственного интеллекта YouTube», - отметили в Mozilla.
Алгоритм YouTube обеспечивает 70% времени просмотра на платформе – примерно 700 млн часов каждый день. Но продвижение контента, который максимально удерживает пользователей в сервисе, сопряжено с риском.
При этом рекомендации не всегда релевантны: по данным Mozilla, в 43,3% случаев они совершенно не были связаны с предыдущими видео, просмотренными пользователем.
YouTube уже неоднократно пытался сократить распространение вредоносного контента через рекомендации, но отчет Mozilla показал, что работы по-прежнему много.
Напомним, что в июне 2020 года Google объяснил, как работают поиск и рекомендации в YouTube. А в ноябре того же года YouTube раскрыл новые детали работы алгоритма рекомендаций.
