ИИ врёт?

то бишь ты пишешь - напиши статью про товар - вот его страница, вот его полное название модель бренд - и он начинает писать про другие выдуманные товары? 

что за ии такой ? чат жемини периплексити дипсик и клод такое не делают

я не знаю как ИИ это делает.. генерирует несуществующие модели товаров....

но я специально из сгенерированной статьи брал модель.. какую придумал ИИ. и вбил ее в Гугле в поиск..

Гугл не нашел такой модели товара.. 

вот и думайте... берет ли ИИ модели товаров из Интернета.. или выдумывает их.. по аналогии с существующими моделями товаров... меняя случайно буквы, цифры... 

Большинство нейросетей обучались на одних и тех же открытых репозиториях (GitHub, Stack Overflow). Если в этих источниках есть распространенное, но не самое лучшее решение, все чат-боты могут его повторить. с

Вопрос слишком широкий. Какая программа? Какой язык? Какой начальный уровень? Какая IDE? Это как спросить ЖПТ, какие детали нужны, чтобы собрать авто с нуля. Как бы можно попробовать, но машина не поедет. 

Основное заблуждение - ИИ заменяет знания и опыт. На самом деле он ничего не заменяет. Он мультилицирует знания и опыт того, кто с ним общается. Как зеркало-усилитель. Если у оператора знаний 0, то под конец получается *0 (умножить на 0). 

Если вы не в состоянии вычитывать код, то это как генерировать статьи по темам, в которых вы не разбираетесь. Получается вроде красиво и умно, но для специалиста - это вода разбавленная галлюцинациями. И с кодом точно также как с обычным текстом. Для вайб-кодера обалденно здорово. Программист смотрит и видит реальные глюки.

И я далеко не против ИИ, я даже очень за и каждый день с ним работаю. Раньше с ChatGPT, сейчас больше Claude Code. ИИ очень экономит время, реально. Но только в тех темах, где я разбираюсь. При этом мне даже в голову не придет, учиться с ИИ чему-то, в чем я сама 0. Напримет, торговлей криптовалютой. Я в этом ничего не понимаю, от слова совсем. И проверять каждое слово ИИ, неэффективно - это проще взять человеческий текст/курс. Если это реально интересует. 

Это не они специально "программируют" так, LLM в принципе не может сказать "Нет!", если в базе нет "подходящих данных", то он (ии) может запросто выдумать факты, и подать все убедительно. 

И я не слышал чтобы кто-то мог внутривенно видеть процессы работы ИИ, исправлять проблемы. Пока все только обучают чёрный ящик, не имея возможности самим контролировать от А до Я. 

Год назад инженеры ИИ обсуждали эту проблему галлюцинации, и даже придумали какой то метод штрафов кроме MoE и суб-агентов. 

Только вот неизвестно, кто и какие технологии применяют при обучении модели, создатели публично не сообщают свои подходы. К примеру только недавно кто-то покапался в DeepSeek, и нашёл режим суб агентов, которые проверяют ответ на валидность, сопоставляет с фактами, заставляет ИИ перепроверить инфу. Возможно из-за этого DeepSeek очень медленно отвечает. 

А зачем нужно уметь вычитывать код? Разве на гитхабе нельзя подобрать хорошие готовые паттерны? 

Странный вопрос. А зачем вычитывать статьи созданные ИИ? 
Паттерны  - это не панацея. Там могу быть баги, дыры, тормоза. Ну и потом - это не паззлы, из которых можно сложить целую картинку без швов. Их нужно разумно соединять, дебажить, подгонять под свои нужды. А для этого нужно понимать и вычитывать.

я думал что разработчик должен уметь видеть всю архитектуру проекта в целом чтобы не закостыливать потом, а куски кода брать на гитхабе или у индийских фрилансеров

В теории. А на практике так не бывает. Сначала идея, костяк, MVP, потом одна фича, вторая, дебаг, "пофиксим потом", новая идея, недоделано/дедлайн, оптимизация, ускорение, запрос пользователя, обновление, легаси, чем дальше - тем больше. Все сначала не суметь увидеть в целом. Закостыливать приходится всегда. А откуда куски кода берутся, из ИИ, гитхаба или дружественных народов - по барабану. Все одно читать нужно.

Вы просто представьте, допустим, есть 20 хороших книг по теме. Вы берете и выдираете из каждой лучшие куски (паттерны) и лепите из них новую книгу. При этом не читая или даже языка толком не зная. Что из этого может получится? Ничего хорошего. 

У чата жопити нет сознания.