Sly32

Решил, чтобы добру не пропадать - научу агента читать письма и делать саммари)))
В итоге он теперь умеет ходить  в почту и делать мне выжимки. Сегодня запушу изменения. Потом научу так же работать с мессенджерами)

Нет ну удобно же!

Следующим шагом нужно научить отвечать его 😀

Да, я думал как упростить выбор моделей - но не автодополнением а просто выбор из списка моделей одной цифрой или вообще листанием по списку и ентер на выбранной модели. Какой у тебя комп? можешь попробовать 

gpt-oss:20b                  13 GB     

qwen3:8b-q8_0               8.9 GB
Если 27в не тянет

Как вам такое, кожаные?
Про новость что в Китае открылся завод, на котором роботы делают роботов, думаю уже все слышали. Просто добавлю мое любимое
"Скайнет близко"(с)

Забавный факт насчет того, кто адекватнее - ЛЛМ или человек. После того как допилил нормальную работу с РАГ, решил натренировать бота для форума. Изначально просто закидывал сообщения с этого форума в базу и потом бот строил свои ответы подстраиваясь под стиль  оригинала. Взял за основу всем известного местного бизнесмена по картошке и добавил его удаленные сообщения. Стало похоже. Но потом решил добавить контекст - то есть не просто сообщения  для стилизации, а в какой теме они были добавлены, контекст. И знаете что? ЛЛМка просто стала выкидывать их, как нерелевантные! Стало скучно) Получается кучка транзисторов понимает, как вести диалог, а человек - нет...

Зря... На самом деле по ходу сериала эта сцена вполне себе оправдана. Она как раз и показывает такую легкую шизу героине уже с самого начала, которая потом по ходу раскрывается. Потому что да, обычный  человек просто притормозил бы и сериал закончился  бы через 15 минут - мажоры уехали, аксенова с семьей благополучно доехали домой, все хорошо, хэппи энд. А тут буквально сразу показали героиню.

Не забываем что это адаптация графа Монте-Кристо)

Сделал. Добавил также предупреждение о минимальной версии Раст при билде. Проверил с оллама - пришлось добавить новый ключ /tools off - 
слабые модели типа coder2.5 - тулы не поддерживают. Протестировал на qwen3.8:27b -  вполне себе держит. 
Добавил вывод использованных токенов, для работы с клауд моделями можно еще добавить стоимость каждого запроса, но пока не заморачивался, потому как все через litellm  а там и так можно посмотреть статистику, добавлю пока в бэклог

Обновления вмержены, можно играться)

Возвращаясь к ЛЛМ и колерству - любые локальные модели меньше 20b - баловство. Что то похожее на резудьтат дают только модели от 16 гигов
В LM studio поднимал gpt-uss:20B и qwen3.8:27B Первая кое-что может, вторая на 24Гигах еле шевелится и GPU  забирает полностью. Не совеиую судить об возможностях LLM по ним. При этом gpt5.6-Luna  мне за 4 часа работы нарисовала  вполне рабочего агента на Rust, не говоря уже о моем learnservice  где она за пару долларов в день закрывает все задачи. Допмлмл вот нормальный флоу с ИИ-уроком - теперь полноценное использование RAG. То есть теперь ты не просто делаешь урок - он базируется на твоей информации. Можно готовить базу знаний из любых источников - умеет даже правильно разбирать скриншоты из методичек и даже рукописные заметки, разбивать их на чанки и потом испольовать в течении учебной сессии, например не сам выдумывает вопросы и примеры, а берет твои и дает ученику. Уже что-то похожее на нормальный урок. Может добавить готовый квиз в урок. ну и делает нормальеый саммари с гапами ученика и рекомендациями - где налажал и что подучить. По факту дело - за работой с документами.

Для доки существует  Sphinx - ничего лучше не придумано. К сожалению в пет проектах у меня на это не хватает капасити совершенно

У меня весь код открыт) Так как Арбнет отказался показывать - пришлось самому написать 😀

я так и подумал, теперь непонятно зачем тебе она что бы тестировать этого агента? в ней и так все есть)))

Но если поиграться, вдогонку за Арбнет набросал своего агента на RUST - здесь
если интересно - пробуйте. возможностей побольше, умеет работать с ollama  и с LiteLLM -  то есть можно работать праетически со всем что сейчас существует - локльно или в облаке по подписке. 
индекисрует проект. Настраивается под проект. Умеет в свои агенты и скилы

Инструкция прилагается, если есть вопросы - спрашивайте. Чисто в рамках изучения Rust  написал