Илон Маск, Стив Возняк, Йошуа Бенджио, Стюарт Рассел, Юваль Ной Харари, а также более 1000 других экспертов в области искусственного интеллекта и представителей научного сообщества призывают к введению моратория на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4.
В открытом письме, опубликованном некоммерческим институтом Future of Life, говорится о потенциальных рисках для человечества от дальнейшего неконтролируемого развития систем искусственного интеллекта и предлагается «поставить на паузу» его обучение.
«Мы призываем все лаборатории искусственного интеллекта немедленно приостановить обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть контролируемой и обязательной для всех ключевых участников. Если такая приостановка не может быть быстро согласована, правительства должны вмешаться и ввести мораторий».
В письме также сообщается, что лаборатории ИИ и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для дальнейшего проектирования и разработки ИИ, которые будут тщательно проверяться и контролироваться независимыми внешними экспертами. Это ни в коем случае не означает остановку развития искусственного интеллекта в целом, а лишь является необходимым шагом назад от опасной гонки к все более мощным и непредсказуемым моделям ИИ, работающим по принципу черного ящика.
Примечательно, что Сэм Альтман, исполнительный директор OpenAI, не подписал это письмо. А представители Future of Life столкнулись и с волной критики в свой адрес – их обвинили в продвижении «хайпа вокруг ИИ», так как письмо сильно преувеличивает текущее состояние и потенциальные возможности технологии.
Ознакомиться с текстом письма и подписать его можно здесь.
