Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Неудивительно, иишки плохо умеют в  аналитические задачи. Красивый фронт тебе запилит и модный стек бэкенда, но если в приложении нужна какая то логика принятия решений , например рекомендации , прогнозирование , классификация на основе ивентов, то с этим будут проблемы и нужно этот алгоритм максимально детально самому прорабатывать. 

Здесь печаль в том, что саму документацию не ИИ делало, лишь потом шлифовали. Опус нарушил логику и упростил буквально всё, а некоторое просто решил не включать. И это работая с пайплайном, а не просто рандомами. При этом - крайне долго по времени и прожорливо по лимитам. 

P.S: Вышел антигравити 2. Обещают разрыв и космос. Ушли от форка на студио. Пока сделал лёгкую задачу: перенёс проектов с двух облаков на третий с объединением. Справился легко. 

Вот именно, но ты постоянно пытаешься. Ты что-то говорил про комбинаторику? 
На тебе свежую новость от OpenAI. Если ты слышал про задачу Эрдеша... https://openai.com/index/model-disproves-discrete-geometry-conjecture/

Как это я пропустил новость? Оказывается ОпенАИ выпустили https://openai.com/index/introducing-openai-privacy-filter/
Умеет маскриовать персональные данные. По идее можно к логам поключить чтобы не утекали даже токены.
Тут я вижу много  разговоров про политики конфиденциальности. По идее  подключаешь и никакой персональной инфы хранитсья не будет!

Кстати, да. Мне ИИ замечательно пишет CRUD, всякие массовые изменения, API и все такое. Но когда нужна глубокая логика, его нужно брать на очень короткий поводок и тыкать носом во все. Инструкции для логики проекта часто по длине соотвествуют длине кода. Он напишет код - да, но приоризация, оценка, что важно именно в данном контексте, а не во вселенной в общем, речевой стиль целевой группы, отсечь не нужное и так далее, не может. Т. е. да на первый взгляд все обалденно здорово и красиво, но когда смотришь детали, видишь, что искуственно есть, а интеллекта кот наплакал. :D

Забавно, но больше всего пострадали именно специалисты, которые углубляли  технические навыки. Создать великолепный дашборд теперь можно за пару промптов. Но вот придумать логику исчисления показателей и увязать это в систему метрик компании, тут уже надо обладать бизнес мышлением и разбираться в процессах бизнеса, а также понимать отраслевые нюансы. С этим ИИ уже не очень справляется и хороший  БА тут будет  необходим.

а есть конкретные, а не абстрактные примеры ошибок в ИИ?
там например, ИИ не может в php:

$x = 1;
$a = [&$x, $x];
$x = 2;
var_export($a);

или на вопрос сколько крыльев у лошади выдает ответ 8
есть?

Я уже писал про поисковые запросы через корпорацию добра.

standard wave radio

Понятие из средины двадцатого века, про радио приёмники, у которых на шкалах настройки, кроме частот, написаны названия радио станций, частоты для которых были распределены международными соглашениями. Типа как сейчас имена доменов указывают на IP номера. Находит standing wave ratio, и другие понятия, смысл которых далёк от желаемого.

сидераты

Растения, которые дружат с правильными микробами, добывающими азот из воздуха, поэтому азотные удобрения не нужны, а наоборот, такие растения можно использовать, чтобы добывать азот из воздуха в почву для других растений. Механический разум добавляет, что сидераты обогащают почву калием, и фосфором, что есть бред.

В программировании или в контенте? Если в контенте, до любая сфера, которая не имеет детерминации да/нет. Начиная с SEO, заканчивая правом и медициной. Если есть 100 исключений из правил, то ИИ может и будет ошибаться. Потому что он идет по пути обобщения и генерализации. 

ИИ может ошибаться, и будет ошибаться.