ArbNet

ArbNet
Рейтинг
158
Регистрация
27.10.2019
Программист самоучка
Александр Воробьев #:

Если возможно под Линукс бы

Работоспособность не проверял, просто скомпилировал.

zip assistant.zip
Sly32 #:
То есть он у тебя узконаправленный? Но в твоем видео ты же писал код для своего фреймворка? Вообще я бы разделял обвязку и конкретно агента. У тебя есть тул, который умеет запускать консольного клиента - то есть управлять локальной моделью и инструментами. Зашивать в нее промпт под конкретный язык - не очень хорошая идея. ЛЛМ-ка и так его знает. Это должно быть гибким. Ты же не будешь его компилить под каждый язык?
Я его писал только для себя, для быстрого прототипирования небольших идей, для своих проектов на Rust. Да, там по дефолту промпт про написание программ на Rust, но это не значит что промпт нельзя менять, его как раз можно и надо менять каждый раз под каждый проект. Да и с моим фреймворком я его немного научил работать. Да, в нём зашито несколько команд для работы именно с Rust программой, для автокомпиляции и исправления ошибок, просто для моего удобства. А если я его задумаю сделать для общего пользования, то можно под разные языки сделать модули для тестирования, отладки и исправления ошибок.
Sly32 #:
А можешь скопилить ее под макось? нет возможности на винде ее запустить...
Не судьба значит. Скомпилировать-то конечно можно, но возни много, всякие либы не нужные мне устанавливать и тд.

Можете поиграться 😁 работает только с локальными моделями от Ollama

В вложении скомпилированная программа агента, вернее ассистента, я её так назвал. Заточена в основном для создания небольших программ на Rust, с встроенным механизмом автокомпиляции и исправления ошибок. Но можно использовать и для других задач, надо подправить системный промпт, мелкие задачи будет выполнять. С большими проектами справляется тяжеловато, приходилось возится с памятью, индексацией в RAG и тд. Агент ещё сырой конечно, поэтому исходник не дам.

Агент создаёт директорию .agent там где находится, в которой есть файл конфигурации(config.yaml) с настройками и системным промптом, а так же дополнительные файлы для памяти.

Когда открываете проект командой /project "путь к директории проекта", то в ней так же создаётся директория .agent с конфигом, который можете подредактировать. Это при первом открытии, далее уже агент будет работать с тем промптом и запоминать несколько последних сообщений, а старые рефакторить и тоже добавлять к промпту. Т.к. локальные модели не запоминают предыдущий контекст, прошлось вот так изворачиваться.

ЗЫ. Удачи в экспериментах!

zip assistant.zip
Mik Foxi #:
кто какой софт в качестве агента юзает для локальных ИИ?
Я своего ассистента на Rust написал. Пробовал разные встроенные в VSCode в расширениях, лажа полная, решил свой написать и написал, с памятью и настройками для конкретного проекта, может изучать и запоминать структуру и нужные файлы чтобы при разработке их использовать, можно переключатся между проектами или запускать несколько агентов. Работает в терминале, в будущем может сделаю и десктопное приложение для удобного интерфейса.
Проблема тех кто сами ничего не умеют, используют готовое, а это не есть гуд, со временем таких "специалистов" становится больше и всё превращается в одинаковое.. Как bootstrap стал популярным в вёрстке, так все на нём стали делать, теперь и ИИ на нём обучен.

ЗЫ. С одной стороны bootstrap красиво оформляет, но говнокодно сделан. С другой стороны везде однообразно, но ускоряет вёрстку.
Sly32 #:
Критика кстати принимается

Глянул бегло.

Первое, что напрягло, так это очень долгая первоначальная загрузка страницы(смотрел с мобильного), обычно я не дожидаюсь когда так долго грузит, а тут решил подождать. Сейчас такая долгая первоначальная загрузка это плохой тон и признак, что у тех кто делал сайт, руки не из того места..

Ещё один нюанс. Ты как я лет 20 назад, делаешь что-то и думаешь, люди сами поймут зачем и как использовать твой сервис. В описании лишь шаблонные выражения "используйте лучший сервис для обучения" и прочая вода.. А нужно описывать, что и как происходит, кому это может пригодится, короче надо подчёркивать выгоду для пользователя чтобы заинтересовать и наглядно немного хотя бы в картинках показать. Посмотри как лендинги у других сервисов сделаны и сравни с своим.

Дизайн корявый. На первый взгляд современно, но если с проф точки зрения, то это жесть. Много всяких косяков от иконок в меню, нет выравнивание и тд. и тп. Да для школьника, вайбкодера это приемлемо, но если профи это делал, это г. полное. Да, оно работает, но это как пользоваться первым смартфоном или последним топовым, если понимаете о чём я.

ЗЫ. Лично меня твой сервис не впечатляет и желает быть лучше. Поэтому далее что-то там смотреть и даже тестить нет желания.

юни #:
Утверждал я вот что: для свойств, которыми предположительно должен обладать AGI, математических алгоритмов недостаточно. С этой точки зрения никаких принципиальных отличий между самыми современными моделями и древностями, вроде цепей Маркова, не существует. Именно потому, что в них, кроме мат. моделей, ничего нет.

Так вот в этом то вы и не правы.

Алгоритмами можно запрограммировать почти всё. То что вы думаете не достаточно тоже можно реализовать. А про принципиальные отличия я вам ответил, они есть. Спичка и обломок веточки принципиально отличаются? Да. Так и один алгоритм от другого тоже.

ЗЫ. Не разбираетесь, не понимаете, не лезьте. Сойдёте за умного.

юни #:
Принципиально

Вы не правы, признайте это.

Я конечно иногда поправляю слая, уж очень он как-то фанатично относится к ИИ. Но он всё же лучше вашего разбирается и кое-что всё таки понимает хотя с натяжкой конечно.

Цепи Маркова и любые другие алгоритмы принципиально друг от друга отличаются. Как и любые другие вещи поэтому и используются по разному и тд. Так что всё чего вы советовали в первую очередь надо именно вам. Знаний у вас кот наплакал, а лезьте в такие сложные темы для вас.

ЗЫ. Что касается новой модели Астра, время покажет, интересно что там под капотом.

Sly32 #:
Простой сегодняшний пример.

И тебя это всё удивляет до сих пор..

Я когда изучал как работают нейросети не понимал как они находят ошибки как "додумывается" до всего и тп. Выяснял, тестировал свои варианты и тд. Нет там никакой логики даже, ничего нет, только вычисление вероятностей на основе обученных данных и чем больше параметров в модели, чем больше данных через неё прогнали тем более человечнее, осознаннее ответ. Вот и всё.

Анализ ошибок и др. всё строится на вероятностях, да в моделях сейчас есть разные алгоритмы внимания, связанность, полезность, знания, порядок, выбор слов, бонус. Это и делает нейросети мыслящими, чему не понимающие как всё работает удивляются. Но это лишь подгонка вероятностей к осмысленному ответу, который за частую от отсутствия нужных данных в обучении даёт ложные ответы так называемые галлюцинации. Но люди не смотря на то что получают не достоверную информацию при отсутствии критического мышления воспринимают это всё как правду.

ЗЫ. Сдаётся мне, что ИИ это самое глобальное мошенничество человечества.

Всего: 2575