LLM - Использование нейросетей в работе. Кодинг, администрирование, безопасность, хостинг, статистика

я так и подумал, теперь непонятно зачем тебе она что бы тестировать этого агента? в ней и так все есть)))

Но если поиграться, вдогонку за Арбнет набросал своего агента на RUST - здесь
если интересно - пробуйте. возможностей побольше, умеет работать с ollama  и с LiteLLM -  то есть можно работать праетически со всем что сейчас существует - локльно или в облаке по подписке. 
индекисрует проект. Настраивается под проект. Умеет в свои агенты и скилы

Инструкция прилагается, если есть вопросы - спрашивайте. Чисто в рамках изучения Rust  написал

Ни зачем - просто погонять, я так пока и не взял на вооружение ИИ. Мне конечно интерснее было бы поковыряться с кодом :). но уж имеем что имеем.

Ок гляну

У меня весь код открыт) Так как Арбнет отказался показывать - пришлось самому написать 😀

Для начала поток мыслей об организации документации. Вынес для себя из челенджа на данный момент (пробовал "по разному"):

1. Нумеровать не удобно, либо надо давать "промежутки", чтоб однажды не пришлось вставить статью  и менять ссылки (но ссылки могут где то осесть типа на форуме или в закладках)

2. Удобно в корне доки и в каждом разделе README.md (соответственно он на гитхабе будет отображаться автоматом) и вот там уже вести читателя по пунктам "вести". (это решает и проблему отсутствия нумерации)

3. В конце стати блок "далее". тут еще у меня два варианта "на размышлении". Всегда одну ссылку или (в некоторых осмысленных случаях) давать развилку

Для доки существует  Sphinx - ничего лучше не придумано. К сожалению в пет проектах у меня на это не хватает капасити совершенно

может быть, я не выбирал особо. Единственное что я использовал это vuepress  для доки к vue компоненту. В целом мне удобно с MarkDown

Возвращаясь к ЛЛМ и колерству - любые локальные модели меньше 20b - баловство. Что то похожее на резудьтат дают только модели от 16 гигов
В LM studio поднимал gpt-uss:20B и qwen3.8:27B Первая кое-что может, вторая на 24Гигах еле шевелится и GPU  забирает полностью. Не совеиую судить об возможностях LLM по ним. При этом gpt5.6-Luna  мне за 4 часа работы нарисовала  вполне рабочего агента на Rust, не говоря уже о моем learnservice  где она за пару долларов в день закрывает все задачи. Допмлмл вот нормальный флоу с ИИ-уроком - теперь полноценное использование RAG. То есть теперь ты не просто делаешь урок - он базируется на твоей информации. Можно готовить базу знаний из любых источников - умеет даже правильно разбирать скриншоты из методичек и даже рукописные заметки, разбивать их на чанки и потом испольовать в течении учебной сессии, например не сам выдумывает вопросы и примеры, а берет твои и дает ученику. Уже что-то похожее на нормальный урок. Может добавить готовый квиз в урок. ну и делает нормальеый саммари с гапами ученика и рекомендациями - где налажал и что подучить. По факту дело - за работой с документами.

Может будет полезно для статьи типа "устранение проблем".

На Debian 13(текущий релиз) версия rustc старовата

rustc --version
cargo --version
rustc 1.85.1 (4eb161250 2025-03-15) (built from a source tarball)
cargo 1.85.1 (d73d2caf9 2024-12-31)

Не собирается проект 

   Compiling yoke-derive v0.8.3
error[E0599]: no function or associated item named `from_utf8` found for type `str` in the current scope
   --> /home/alex/.cargo/registry/src/index.crates.io-1949cf8c6b5b557f/yoke-derive-0.8.3/src/lib.rs:202:32
    |
202 |         let underscores = str::from_utf8(&underscores).expect("_ is ASCII and thus UTF-8");
    |                                ^^^^^^^^^ function or associated item not found in `str`
    |
help: you are looking for the module in `std`, not the primitive type
    |
202 |         let underscores = std::str::from_utf8(&underscores).expect("_ is ASCII and thus UTF-8");
    |                           +++++

For more information about this error, try `rustc --explain E0599`.
error: could not compile `yoke-derive` (lib) due to 1 previous error
warning: build failed, waiting for other jobs to finish...
error: failed to compile `ai-agent v0.1.0 (/home/alex/Projects/rust/ai-agent/ai-agent)`, intermediate artifacts can be found at `/home/alex/Projects/rust/ai-agent/ai-agent/target`.
To reuse those artifacts

Поставил так и собрался

curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

Команда /config - классно будет если json отформатируется для удобного просмотра. имхо.

Завтра подключусь к студии

Сделал. Добавил также предупреждение о минимальной версии Раст при билде. Проверил с оллама - пришлось добавить новый ключ /tools off - 
слабые модели типа coder2.5 - тулы не поддерживают. Протестировал на qwen3.8:27b -  вполне себе держит. 
Добавил вывод использованных токенов, для работы с клауд моделями можно еще добавить стоимость каждого запроса, но пока не заморачивался, потому как все через litellm  а там и так можно посмотреть статистику, добавлю пока в бэклог

Обновления вмержены, можно играться)