Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

“Однако, большинство разработчиков рано или поздно все же заменят на ИИ-агентов (не все ветки профессии, но многих). Это факт. Просто  реальная причина, почему этого ещё не произошло, – куда прозаичнее, чем теория заговора: виноваты мы, люди.А если конкретнее – дерьмовые программисты, имя которым Легион.

ИИ обучается не магическими заклинаниями, а на конкретных исходных данных. В случае генеративного ИИ-разработчика, ребята из OpenAI «заряжают» в модель весь программный код, до которого могут дотянуться – это практически все, что написали и выложили в паблик инженеры-люди за все время существования Сети. Потом на основе анализа всего этого коллективного творчества, они учат модель предсказывать, как лучше решать ту или иную задачу, на каком языке программирования, какими подходами, как работать с памятью, что делать, если возникают ошибки и конфликты за системные / сетевые ресурсы итд. Если упрощенно говорить, ChatGPT – это на самом деле Т9 на стероидах, модель просто предсказывает следующие строчки и абзацы на основании анализа триллионов других строчек и абзацев, похожих между собой… и не очень.

Именно в данных, собственно, проблема. Если взять за 100% всех программистов планеты Земля и 100% написанного ими кода, выложенного, допустим, на Github.com, выясняется, что 90% из всего этого кода – дерьмо разной степени свежести. В публично доступном коде часто встречаются ошибки, методы реализации задачи, свойственные новичкам, опечатки, несостыковки, хардкодинг, «наброски» (когда программер ничего не делал уж точно не проверял, просто набросал какую-то логику и зачем-то запушил ее в публичное пространство, в котором набросок был индексирован сборщиком OpenAI), но, что самое страшное – невероятное количество костылей, когда анализируемый код как-то работает, но под капот лучше не заглядывать, ибо там – Алиса в стране чудес. Но без Алисы и страны.  И часто без чудес. То есть, там просто «в».

В итоге, ИИ, который искренне «стремится» стать лучшим инженером-разработчиком на планете и, более того, – ему в этом помогают люди-миньоны их компаний уровня OpenAI, – пока не может стать гением. Но не потому, что это технически не реализуемо или не понятно, как делать. А потому, что, люди, в массе своей, – отвратительный пример для подражания. Проблема в нас и нашем несовершенстве. А не в ИИ.

миллионы идиотов не смогут выучить гения. 

Гения могут вырастить только другие гении.

И он сам. 

Поэтому я не удивлюсь, если сейчас OpenAI вместо того, чтобы обучать ChatGPT дальше, начнет для начала обучать его ИИ-учителей по профильным специальностям. В том числе, в вопросах разработки. 

Как-то так.” (С)

https://blog.cheresh.me/2024/06/29/how-programmers-make-ai-dumber/

Так люди выкладывают свой код, зная что это к примеру абстрактный (а не рабочий) пример, что программа не доделана, что вопрос задает нуб, что отвечают ему кое-как. Все прогеры-люди различают, чему можно подражать, что можно взять целиком, а что надо подгонять, где учебное кодо-дерьмецо, а где код профи. ИИ даже этого сделать не может - отделить зерна от плевел. Он жрет все - и ложь и правду. Находит в этом среднестатистическое. Оно лучше самого конченого кода, но хуже реально используемого при написании рабочих прог.

А давай сравним? Я придумываю задачу, на решение которой надо примерно полчаса, ты тоже. Ты постишь свое решение, я - ответ от ИИ и потом даю твое решение на проверку агенту, ты комментируешь его. А Обчество сравнит кто лучше решит и оценит кто говнокодер а кто профи))) А пока что написал агента, который ходит по форуму и смотрит, если его кто-то тегнул с просьбой помочь решить задачку - постит решение.

Возможно что платная версия ии подсказывает только проверенный работающий код. Мое такое объяснение.

ОМГ 🤣 Ты серьезно так думаешь?

на гитхабе куча брошенных проб и ошибок и в каждом направлении единицы популярных решений, может я не прав конечно

Реальные задачи отличаются от тех, что на смекалку. ИИ обыграл человека в шахматы еще в 80-х. Тупо перебирая 100500 комбинаций ходов и находя наиболее выгодный.

Реальные задачи на полчаса думать - это коммерческая тайна. Чтобы придумать реальную задачу, надо хорошо знать реальный мир и отрасль приложения конкретной разработки. ИИ такое не может.

Хорошо. Тогда скажи принцип по которому ИИ отбраковывает неработающий код перед тем как дать его в выдачу.

в трансформере есть механизм self-attention, который формирует ответ. Нужно рассказывать в 10-й раз что такое трансформеры, токены и прочие составные части LLM?

И опять двадцать пять... Человека обыграл Deep Blue - суперкомпьютер использующий алгоритм поиска наиболее вероятных ходов на основе зеложенных партий. Это не ИИ
Современный AlphaZero, работающий на ИИ, выиграет у него с легкостью. При том что его можно запустить на обычном компе. И там другой принцип - он сам себя обучал. 

Ну так давай и проверим?