Sly32

Погружение в своего агента идет полным ходом, писать на Расте довольно забавно, хотя я все равно поклонник ООП языков. Написал агенту кучу тулов, причем последние  уже писал по протоколу MCP. Теперь кроме проверки почты и календаря он умеет найти в интернете сайт, посмотреть его, рассказать о чем. Причем даже с локальными моделями.  Пока что лучшее что нашел - qwen3:8b-q8_0, gpt-oss:20b, deepseek-r1:14b, для qwen3.8:27b не хватает памяти для нормальной работы все таки, непонятно, потому что примерно такой же  gpt-oss:20b вполне себе тянет.  Но это все баловство для тестов, нормально работать только с облачными. 

Тебе нечего обьяснять - было бы - уже бы давно сделал это. Я задал конкретный вопрос - как твоя ссылка  помогает экономить токены в трансформерах.  Ты перешел на личности и оценку знаний мной английского, на котором я работаю. По твоей ссылке - НЕ трансформер - эта модел НЕ умеет генерировать текст.  Если бы ты хотел выразить какую-то мысль, то подобрал бы более удачный пример. На каком основании ты мне что-то приписываешь? Я указал тебе на то что ты не дал како-либо полезной инфы, а я перешел по твоей ссылке и внимательнпочитал что это за система. 

Да мог бы и не начинать. давай, ткни пальчиков  по твоей линке - где конкретно там про экономию токенов? Тебя никак не смутил, что прайс есть только на исходящие токены?

А ты хоть прочитал что это или просто заплатили за пост? Это очень узкая модель, не умеющая генерировать текст а работающая с вероятностями. Причем пилот - нет независимой проверки достоверности результатов.  Я с такого начинал, потом понял что очень ограниченная область применения.

Что-то я заморочился с этим агентом) сделал удобный выбор моделей, сделал конфиг в одной папке. Теперь просто запускаешь его из проекта и он сам создает всю структуру. Может создать проект, может править код, индексирует проект. Думаю с чем еще научить его работать. Но вообще нужно разделять - или кодер или помощник. Возникла идея прикрутить его на сайт как ассистента

Вы не замечаете главного. 5 лет назад такая новость была только как глава из фантастического романа. Первый ЛЛМ модели были тупыми и отвечали невпопад. Над скайнетом - смеялись. Сегодня уже во всех областях ШИ превзошел человека. Математика, прграммирование.
В Америке автономные такси уже обычное явление. Waymo,  а тут уже и Тесла подтянулась - Киберкэб уже даже не подразумевает водителя в салоне.  И спорите в в стиле - "Да фигня -я лучше справлюсь. .."
Будущее уже вот оно, пока вы не верите...

Решил, чтобы добру не пропадать - научу агента читать письма и делать саммари)))
В итоге он теперь умеет ходить  в почту и делать мне выжимки. Сегодня запушу изменения. Потом научу так же работать с мессенджерами)

Нет ну удобно же!

Следующим шагом нужно научить отвечать его 😀

Да, я думал как упростить выбор моделей - но не автодополнением а просто выбор из списка моделей одной цифрой или вообще листанием по списку и ентер на выбранной модели. Какой у тебя комп? можешь попробовать 

gpt-oss:20b                  13 GB     

qwen3:8b-q8_0               8.9 GB
Если 27в не тянет

Как вам такое, кожаные?
Про новость что в Китае открылся завод, на котором роботы делают роботов, думаю уже все слышали. Просто добавлю мое любимое
"Скайнет близко"(с)

Забавный факт насчет того, кто адекватнее - ЛЛМ или человек. После того как допилил нормальную работу с РАГ, решил натренировать бота для форума. Изначально просто закидывал сообщения с этого форума в базу и потом бот строил свои ответы подстраиваясь под стиль  оригинала. Взял за основу всем известного местного бизнесмена по картошке и добавил его удаленные сообщения. Стало похоже. Но потом решил добавить контекст - то есть не просто сообщения  для стилизации, а в какой теме они были добавлены, контекст. И знаете что? ЛЛМка просто стала выкидывать их, как нерелевантные! Стало скучно) Получается кучка транзисторов понимает, как вести диалог, а человек - нет...