Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Это ты учитывай, можно же понять что это была опечатка?

Это бывает не только с ИИ

Опасен не сам по себе, а слишком большие полномочие для него и интеграция его куда не стоило. Если использовать как инструмент в ограниченной среде - нормально. Но они теперь пихают его во все дыры. 

Инциденты, когда он нормально работал, потом вдруг включает режим дурака, как раз мини иллюстрация как это может быть.

На днях агент там какому то крупному проекту базу данных снес. А они будут наделять его большими полномочиями. 

Уже же есть результаты тестов когда он атакует оператора, когда использует стратегию недопускать отключения даже путем хитрости. 

Это не ии-фобия, это обоснованные опасения.

Когда я вижу, что  этот товарищ (ии чат) ушел в ступор и бесполезно увеличивать количество итераций, просто переходу с тем же вопросом к другому, продолжаю там. Гораздо продуктивнее и удобнее, чем пытаться добиться результата здесь, когда этот слился.

Гораздо продуктивнее и удобнее, как уже тебе сказали, использовать не чаты, а встроенные в ИДЕ плагины с агентами.

Меньше читай блогеров всяких.

Чтобы агент это сделал - нужно быть уже совсем без мозгов.

в чистом виде такого быть не может, более того ты можешь указать параметры по которым ему работать и на вопрос "расскажи анекдот", он каждый раз будет выдавать одинаковый ответ
а то что ты наблюдаешь, скорее всего в окошке браузера и на бесплатном тарифе, и сделано для обучения модели, грубо говоря - тебе намеренно подсовывают неверный ответ, и логируют твое возмущение неверным ответом, а еще лучше когда ты сам даешь ему правильный ответ)

Вот! Именно это я и подозревал)  

Кстати, стараюсь не возмущаться. Все таки, действительно, бесплатно. Во вторых пользы то больше получил. И вообще, некоторые стараются разговаривать с ии-шками вежливо, опасаясь, что потом припомнят)

надо наоборот, очень сильно ругаться и возмущаться, эффективность выше, чем похвала)
вообще я наблюдаю, что один правильный .md файл очень сильно меняет то, что выдают ИИшки,
у одного ничего не получается, у другого все работает с одного запроса, потому что вся логика заложена в .md

Эмпатия. Типа "ну ладно, пацан старался, ну как умеет, ну лажает, с кем не бывает")

Кстати, возвращаясь к Папе. В этом ещё одна опасность. Особенно когда создатели наделяют их (чаты и гуманоидных роботов) чертами присущими человеку. У человека начинает работать все вот это: эмпатия, симпатия. 

Обязательно здоровайтесь и желайте спокойной ночи! Когда Скайнет захватит мир, он непременно посмотрит логи ваших чатов и оставит вежливых пользователей работать на урановых рудниках, а грубиянов пустит на биотопливо :)