Google анонсировал обновление правил Google Play, касающееся приложений с использованием генеративного искусственного интеллекта.
В компании считают, что приложения, в которых применяется генеративный ИИ, должны быть в первую очередь безопасны для пользователей. В связи с этим, такие приложения в обязательном порядке должны содержать функции, с помощью которых пользователи смогут жаловаться на контент или отмечать неприемлемые материалы:
«Приложения, создающие контент с помощью технологий искусственного интеллекта, должны предоставлять пользователям возможность отмечать оскорбительные материалы или сообщать о них разработчикам, не выходя из приложения. Разработчикам следует использовать сообщения пользователей в качестве источника информации для фильтрации контента и модерации в своих приложениях».
Пример реализации:
Новые правила начнут действовать 31 января 2024 года. Они не распространяются на приложения, в которых размещается уже готовый контент, созданный при помощи ИИ, а также на те, где ИИ лишь обобщает уже существующую информацию.
Ранее в октябре Google улучшил функцию проверки безопасности приложений Google Play Protect, добавив в нее сканирование на этапе установки в режиме реального времени.
