все равно не понял. БЕРТ это не обычная ЛЛМ, он не для генерации а для классификации, там нет послойного декодирования токенов. В GPT - есть и он для генерации лучше
Это обычное соскакивание с темы, когда что-то ляпнул, а подтвердить слабо - вот и начинается увод в сторону
А что с ними там не так? Это как раз очень сильный двунаправленный энкодер, один из лучших для NLP
Ну выкладывай что тебе придумал ИИ, чтобы денег заработать.
Идей может быть много.
Ты вообще помнишь о чем речь была? При чем тут идеи? Напоминаю -твое утверждение:
При чем тут идеи, если мы говорим про качество кода?
Уверен? давай какую свою старую идею - прогоним через ИИ - сможет ли он ее улучшить?Я часто свои закидываю и он мне дает дельные советы по улучшениюВ бизнес-аналитике давно уже применяется и успешно
Не нужно, я думал ты по человечески объяснишь все толком, для тех кто не учил это. Ладно, сам погуглю, коли так.
Входной текст:"Я люблю читать книги"1. Преобразование слов в векторы (эмбеддинги):[Я] → v1[люблю] → v2[читать] → v3[книги] → v42. Self-Attention (каждое слово "смотрит" на все остальные):v1' = f(v1, v2, v3, v4)v2' = f(v2, v1, v3, v4)v3' = f(v3, v1, v2, v4)v4' = f(v4, v1, v2, v3)(результат — контекстно-зависимые векторы)3. Feed-Forward слой:Каждый вектор проходит через нейронную сеть → улучшается представление смысла4. Выход:- Если трансформер декодерный (например GPT): генерируется следующее слово- Если энкодерный (например BERT): получаем векторное представление всей последовательности
Проще я не знаю уже как
Хорошо. Тогда скажи принцип по которому ИИ отбраковывает неработающий код перед тем как дать его в выдачу.
в трансформере есть механизм self-attention, который формирует ответ. Нужно рассказывать в 10-й раз что такое трансформеры, токены и прочие составные части LLM?
И опять двадцать пять... Человека обыграл Deep Blue - суперкомпьютер использующий алгоритм поиска наиболее вероятных ходов на основе зеложенных партий. Это не ИИСовременный AlphaZero, работающий на ИИ, выиграет у него с легкостью. При том что его можно запустить на обычном компе. И там другой принцип - он сам себя обучал.
Ну так давай и проверим?
ОМГ 🤣 Ты серьезно так думаешь?
Так люди выкладывают свой код, зная что это к примеру абстрактный (а не рабочий) пример, что программа не доделана, что вопрос задает нуб, что отвечают ему кое-как. Все прогеры-люди различают, чему можно подражать, что можно взять целиком, а что надо подгонять, где учебное кодо-дерьмецо, а где код профи. ИИ даже этого сделать не может - отделить зерна от плевел. Он жрет все - и ложь и правду. Находит в этом среднестатистическое. Оно лучше самого конченого кода, но хуже реально используемого при написании рабочих прог.
А давай сравним? Я придумываю задачу, на решение которой надо примерно полчаса, ты тоже. Ты постишь свое решение, я - ответ от ИИ и потом даю твое решение на проверку агенту, ты комментируешь его. А Обчество сравнит кто лучше решит и оценит кто говнокодер а кто профи))) А пока что написал агента, который ходит по форуму и смотрит, если его кто-то тегнул с просьбой помочь решить задачку - постит решение.
Я в этом даже не сомневаюсь. Ну возьми, попробуй устройся в OpenAI ))) Я вот очень жалею, что в свое время не пошел в DataScience. А сейчас реально знаний не хватает. Даже той же математики. Сайты делать - это самая низшая каста в айти, особенно на уровне как здесь спициалисты по пхп)) плагиноустанавливальщики))
Непонимание принципов работы генеративных моделей и приводит вот к таком бесполезному флуду. Модель можно обучить на "Война и мир ", а можно на "Приключения бравого солдата Швейка" Какая будет правдивее? В этом и суть модели - сделать что-то универсальное. А для индивидуальных хотелок есть определенные инструменты, позволяющие нейросети генерировать ответы согласно требованиям собеседника. Попросите ее врать - она и будет это делать.
Ты всерьез считаешь, что нейросеть обучается по статьям с инфошечек? мдя... Так, к слову, существующих данны достаточно для обучения нейросетей на десятилетия вперед. Новая модель, вот например GPT-5 это не только новые данные, хотя несомненно, что в обучение добавляют свежее. Самое важное - новые алгоритмы, как уже убедились, они могут и ухудшить работу.
А я собственно и работаю сейчас на одно из крупнейших мировых информационных агенств. И вижу какое бабло они тратят на все эти нейросети.
