LLM - Использование нейросетей в работе. Кодинг, администрирование, безопасность, хостинг, статистика

ArbNet, кстати, о птичках, config.yaml это стандартный конфиг или относится конкретно к твоему ассистенту? 

Конкретно к моему

Да, это косяк, спасибо, исправлю. Но это не коммерческий продукт, я его не оттачивал на все возможные косяки, всегда в основном запускал с запущенным Ollama.

Есть ещё один косяк, но это не баг в коде, а технический так сказать. Иногда бывает запрос сложный и нейросеть долго думает и выбрасывает ошибку ничего не ответив, это из-за короткого тайминга или мало токенов, короче надо настройки подправлять иногда. Для сложных запросов тайминг, токенов больше (num_ctx: 16384,  max_tokens: 2048,  timeout_seconds: 1200 или 1800) для простых можно меньше (num_ctx: 4096 или 8192,  max_tokens: 1024,  timeout_seconds: 600)

git_integration true - означает что он будет взаимодействовать с git?

нет, эта настройка бутафорская, на будущее может реализую

логирование у меня было, в этой последней версии я его убрал, а в настройках остались

ЗЫ. Короче это сырой ещё агент и вряд ли я его доведу до идеала, это чисто тестовый вариант. Может позже сделаю другой более продуманный. Есть идея написать агента который будет работать прямо с ИИ чатами в браузере, тоже пока тестирую.

можешь пояснить идею? Агент запущен локально а браузер - чисто UI? Что даст такой агент? 

Сразу оговорюсь я пока не особо пользователь агентов и ИИ, потому взгляд пользователя новичка.

Загрузил на другом компе LLMStudio, подключил.

создал каталог и в него закинул файл main.rs  (простейшиее привет мир)

запустил. 

1. как пользователю мне не удобно что надо вводить /project ....  - консоль от клода умеет работать  с текущим каталогом и при запуске спрашивает что то про это.

2. Запустил /study почему то не увидел файл *.rs  (возможно будет полезным отобразить здесь какие каталоги были просканирвоаны - я как порядочный чайник не создал src)

📁 /study
🔍 Изучение проекта...
📚 Изучено 0 файлов
  📅 Время: 2026-09-16 11:58:12


🔨 Индексация файлов для RAG...
Всего файлов: 0

✅ Проиндексировано чанков: 0
💾 Сохранено: pro/.agent/embeddings.json
✅ RAG проиндексирован: 0 чанков
✅ Изучено и сохранено: 0 файлов

Далее я попробовал набрать 

Создай программу выводящую фразу "привет мир"

Вылетело с ошибкой 

Error: stream did not contain valid UTF-8

Parent is shutting down, bye...

И теперь не запускается.

Удалил все

закинул привет мир в src , запустил изучение и 

🔍 Изучение проекта...
📚 Изучено 1 файлов
  📅 Время: 2026-09-16 12:09:46
  rs: 1 файлов


🔨 Индексация файлов для RAG...
Всего файлов: 1

⚠ Ошибка эмбеддинга: pro/src/main.rs (Ошибка запроса эмбеддингов: error sending request for url (http://localhost:11434/api/embeddings))

✅ Проиндексировано чанков: 0
💾 Сохранено: pro/.agent/embeddings.json
✅ RAG проиндексирован: 0 чанков

очевидно где то прописан жестко адрес - у меня в конфиге не локалхост. Ну и текст ошибки (чисто ИМХО) уж раз на русском - возможно стоит что то типа 

⚠ Ошибка векторного представления: pro/src/main.rs 
(Ошибка запроса векторных представлений: не удалось отправить запрос по адресу http://localhost:11434/api/embeddings)

Пробую поставить задачу и вываливается с ошибкой

📁 Исправь программу чтобы она возвращала Привет пользователь
Error: stream did not contain valid UTF-8

Parent is shutting down, bye..

Еще попробовал команды 

📁 Добавь в код комментарии
🔄 Обработка запроса...
📏 Контекст: 3 сообщений, 1399 символов
❌ Ошибка: Ошибка запроса к Ollama /api/chat: error sending request for url (http://localhost:11434/api/chat)
📁 Add comments to code
🔄 Обработка запроса...
📏 Контекст: 4 сообщений, 1394 символов
❌ Ошибка: Ошибка запроса к Ollama /api/chat: error sending request for url (http://localhost:11434/api/chat)

Лог включен судя по конфигу но файл не нашел - куда он пишется?

Поясню немного.

1. Локальные модели не запоминают контент предыдущих сообщений и тд. у них вообще нет памяти, отвечают только на текущий запрос. Поэтому разработка больших проектов усложнена и нужно большие задачи дробить на мелкие части. Например сначала работаешь над одним файлом модулем, потом над другим и тд. То есть запрос типа: " Создай проект мини нейросети" - так не будет работать. Надо делать более простые запросы типа напиши функцию такую то, с такими параметрами возвращает то-то, что-то типа такого. Локальные модели слабые.

2. Для изучения проекта надо описывать в промпте архитектуру проекта и что агент должен знать. Так же в настройках указывать какие директории и файлы с какими расширениями надо изучать. Короче для этого всего вам нужна дока, но я её не буду писать. Поэтому не заморачивайтесь.

3. Я выложил агента чисто для прикола можно сказать. Мини задачки он может решать и больше ничего. Ну и я сам его толком ещё не тестил после того как заменил способ передачи запроса с generate на chat. При генерации передаётся только одно сообщение, а при чат несколько, куда можно системный промт вставить и память из последних сообщений и изученные данные.

ЗЫ. Короче лично я все эти агенты считаю игрушками. Самим надо код писать.

что это за зверь?

очепятка... LM Studio https://lmstudio.ai/

Ну тут уж "дело твое"  :)  я просто попробовал ради интереса, писать не собирался что то крупное, так попробовать "привет мир" ну и, например, чтоб комментариями снабдила.  написал, на что обратил внимание - а там уже тебе решать нужно это или нет. Ориентироваться на меня нет необходимости.