LLM - Использование нейросетей в работе. Кодинг, администрирование, безопасность, хостинг, статистика

Mik Foxi
На сайте с 02.03.2011
Offline
1283
#41
кто какой софт в качестве агента юзает для локальных ИИ?
Антибот, антиспам, веб фаервол, защита от накрутки поведенческих: https://antibot.cloud/ (9 лет на защите сайтов).
ArbNet
На сайте с 27.10.2019
Offline
156
#42
Mik Foxi #:
кто какой софт в качестве агента юзает для локальных ИИ?
Я своего ассистента на Rust написал. Пробовал разные встроенные в VSCode в расширениях, лажа полная, решил свой написать и написал, с памятью и настройками для конкретного проекта, может изучать и запоминать структуру и нужные файлы чтобы при разработке их использовать, можно переключатся между проектами или запускать несколько агентов. Работает в терминале, в будущем может сделаю и десктопное приложение для удобного интерфейса.
S3
На сайте с 29.03.2012
Offline
399
#43
Mik Foxi #:
кто какой софт в качестве агента юзает для локальных ИИ?

Claude Code + VScode plugin -  классика в мире агентов. Умеет все, даже не вижу смысла  описывать. Особенно в режиме консоли. Расширение для VSCode  - довольно сложно настраивать при смене провайдера

Codemie by Epam - полноценная платформа для работы с проектами

Github Copilot - тоже классика, по удобству инструментов, но уже почти не использую.

LM studio/Bionic - Чисто поиграть с локальными моделями, поднял в ней например qwen3.8:27b

И мой фаворит на сегодня:

Сline  VSCode plugin - Самый удобный и в тоде время простой. РАботает с любыми моделями, работает с локальными через АПИшку,  работает с LiteLLM. Позволяет использовать тулы  через MCP  от ГИтхаба и Клода. Хорошо работает с памятью и компактом диалогов. Вот даже не знаю, чего в нем нет.


S3
На сайте с 29.03.2012
Offline
399
#44
ArbNet #:
Я своего ассистента на Rust написал.

конечно же не поделишься, чтобы попробовать? Пока что по твоему видео - очень жиденько по возможностям. Студенческая работа. Но если поделишься - возможно изменю свое мнение.

ArbNet #:
Пробовал разные встроенные в VSCode в расширениях, лажа полная

Что пробовал и в чем лажа? Давай предметно. И что твой агент умеет лучше? Работа с тулами, поддержка MCP,   компакт, скилы и агенты? 

MP
На сайте с 05.05.2025
Offline
27
#45
Sly32 #:
Claude Code

никакая не классика. это для новичков. Остальные юзают не обертки от корпоратов, а опенсорсные. разбор был, лень искать. один промпт клода который шлет на каждый запрос убивает его полезность. это юридическое ограничение, что бы он не выдал тебе в ответе то, что приведет к иску анотропикам. это одно из. + еще много чего. Тот же от Zai кэширует до 95% (но закрыт) + opencode + форки на github

Sly32 #:
Сline  VSCode plugin -
Zoocode ИМХО + mcp сервер подключил локальный. + подвсетки, интерпретаторы для пайтон, php, js и фрейморков + для БД. + power shell в консоли + хоткей группа
S3
На сайте с 29.03.2012
Offline
399
#46
MrPi #:
никакая не классика. это для новичков. Остальные юзают не обертки от корпоратов, а опенсорсные. разбор был, лень искать. один промпт клода который шлет на каждый запрос убивает его полезность. это юридическое ограничение, что бы он не выдал тебе в ответе то, что приведет к иску анотропикам.

И заново - не сочиняй. Никто не юзает опенсорс в таком обьеме как оригинальный клод. Юридидические ограничения зашиты в системные промпты - никак не в плагин, иначе бы это поломать было - в  два счета.  С кэшем если не умеешь работать  то так и скажи.

И большой плюс клода перед Cline - тэг  /btw -  возможность обогатить текущий диалог. 

UD
На сайте с 05.03.2016
Offline
79
#47
MrPi #:

никакая не классика. это для новичков. Остальные юзают не обертки от корпоратов, а опенсорсные. разбор был, лень искать. один промпт клода который шлет на каждый запрос убивает его полезность. это юридическое ограничение, что бы он не выдал тебе в ответе то, что приведет к иску анотропикам. это одно из. + еще много чего. Тот же от Zai кэширует до 95% (но закрыт) + opencode + форки на github

Zoocode ИМХО + mcp сервер подключил локальный. + подвсетки, интерпретаторы для пайтон, php, js и фрейморков + для БД. + power shell в консоли + хоткей группа
Какое ограничение полезности? Мне клод спокойно для любых даже серых ниш все делает. Какой иск еще? Не смешите мои тапки.
MP
На сайте с 05.05.2025
Offline
27
#48
UnderDDoS #:
Какое ограничение полезности? Мне клод спокойно для любых даже серых ниш все делает. Какой иск еще? Не смешите мои тапки.

Тут пожаловались или модераторы решили снести ответы. второй раз точно не буду писать портянки. гуглите. Вот один из

https://www.claudecodecamp.com/p/inside-claude-code-s-system-prompt

Claude's System Prompt Costs 80% of Your Tokens | Aaron Pedro разместил(а) публикацию на тему | LinkedIn
Claude's System Prompt Costs 80% of Your Tokens | Aaron Pedro разместил(а) публикацию на тему | LinkedIn
  • www.linkedin.com
Saying "Hi" or "Hello" to Claude costs 2-13% of your session, here's why: Every prompt sent to Claude is padded with what is known as the system prompt. This prompt provides the tools that the current model uses to perform tasks if it has to(~5,000 tokens), search instructions and copyright rules(~3,750 tokens), memory system and...
S3
На сайте с 29.03.2012
Offline
399
#49
MrPi #:
Вот один из
Или у тебя совсем плохо с английским или с контекстом или и с тем и с другим вместе. Вот ткни меня прям в то место, где  твой аарон пишет про клод код? Или все таки речь идет про  работу с конкретными моделями Клода? И именно про системный промпт, о котором я говорил ранее? Я напомню контекст беседы тебе, так сказать сделаю /компакт - был вопрос про агенты для работы, мы начали их обсуждать и тут ты ворвался в чат с рассказами о цензуре моделей. Не находишь, что это немножечко не по теме? Цензура будет работать независимо от агента. Да, народ сидит и думает, как обойти, кому-то удается в некоторых вопросах. Но зачем ты это притянул в контексте агентов - мне совесм непонятно.
UD
На сайте с 05.03.2016
Offline
79
#50
MrPi #:

Тут пожаловались или модераторы решили снести ответы. второй раз точно не буду писать портянки. гуглите. Вот один из

https://www.linkedin.com/posts/aaronmacbaron_saying-hi-or-hello-to-claude-costs-2-activity-7451671742550421504-qRlp

ну, системный промпт - это вполне нормально, модели клода меня устраивают в целом
у меня в моем аи сервисе системник где-то 20-30к знаков, от этого никуда не уйти. 

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий