Sly32

Рейтинг
389
Регистрация
29.03.2012
Должность
Software engineer
ArbNet #:
Хорошо, будет тебе аргументировано.
Не было времени вчера отвечать, хотелось воспользоваться пятницей и обещаной хорошей погодой.
Но давай по сути, а твои личные нападки оставим для соответствующей темы, они прям хороши для разбора.
ArbNet #:
Во-первых, как ты правильно заметил это хорошая практика и саморазвитие.
Да, только за этим должен стоять какой то результат - где он? 
ArbNet #:
Во-вторых, про недостатки существующих решений, их масса, все не перечислить

Разве тебя кто-то просил их все перечислить. Но если ты выступаешь как инноватор, то ты в состоянии предметно обьяснить претензию. Скорость - Окей, значит ты увидел какое-то узкое место, понял причину, есть идея как улучшить.

ArbNet #:
Я уже год как изучаю нейросети, отчасти из-за этого наверно и забросил веб-разработку, купил несколько книг по ИИ, читал статьи, смотрел видео, исходники существующих проектов изучал, сам тестил разные способы и тд. Как минимум базовое понимание как всё устроено и работает у меня имеется, не в плане поверхностного понимания как у тебя, а именно в плане реализации в коде.

Забавное утверждение, но давай копнем поглубже...
Если  ты разобрался, тогда почему ты говоришь про оллама? Она не предназначена для создания нейросети. Нейросеть - это математика. Ты можешь вообще ее написать на листочке бумаги. Если в коде - то есть инструменты. От самых простых, типа NumPy, до специальных типа PyTorch/TensorFlow. Ты говоришь, что ты разобрался, а я тока поверхносно. 
Только вот я когда заинтересовался начал именно с математики, вообще с цепей Маркова. 

ArbNet #:
В третьих, я не собираюсь делать подобие существующих LLM, я лишь хочу сделать мини движок для создания моделей под определённое направление, способных запускаться локально, работать быстро без графического процессора и тд. под микросервисы. Например, для создания уроков для студентов как ты делаешь можно было бы использовать без всяких костылей, для какой-то тех поддержки разных учреждений, для своего фреймворка чтобы люди могли быстро на нём создавать то, что им нужно и тд. и тд.

Ты опять накидал набор слов, не понимая смысла. То оллама, то уже свой движок... Все что ты написал - давно существует.
Как ты думаешь, чем занимаются все эти люди в Гугл, Антропик итд? Ищут варианты как  усложнить, чтобы заставить любей купить больше токенов и видеокарт. А ты разобрался, почему на графике нейросеть работает быстрее?
Твои заявления - это регресс на самом деле. 

У меня например нет костылей, наоборот я работаю над минимально необходимой архитектурой. То есть простые задачи решаются на малых мощностях, сложные - подключаются монстры. Тут уже есть те, кто использует оркестраторы задач и вполне успешно. И опять какой фреймворк? Какие люди и что создавать? Я не понимаю) 
Обьяснишь?

Devstory #:
Приложения делать или другой контент. Игры, видео. . С ИИ можно много всего реализовать . 
И как, много уже сделал?
Rustam .0. #:

Кстати джелато легко дома сделать без всякой химии) 350 мл обычного молока, 150 мл сливок (25%), немного сахара и один желток - нагревается, смешивается, а потом каждые 30 минут в морозилке взбивается венчиком. Получается та самая нежная плотная текстура без льдинок)


А можно я не буду страдать фигней, а просто пойду и куплю  пару шариков? 
Если это правда - то это какой-то новый виток в развитии ЛЛМ
ChatGPT  отказался помогать студенту, заподозрив что он находиться на экзамене:

MrPi #:
Так просто смысла в этом нет. Это же просто морда и система развертки модели. Что там можно улучшить? Скорость развертывания? Ну это бред же. Улучшить можно модели, дообучив. Оллама или клод код морда - пофигу. Можно даже на Aider cli юзать. Всё это окружение вокруг терминала. Хоть в дефолтном терминале запускай модели
ВСе верно, это должно быть во второй части моего ответа, ты опередил. Боле того, человек по прежнему путает инструменты. Он  думает что  оллама/ллама - для разработки моделей. Даже когда я ему намекнул про PyTorch - он не понял
plab #:
Это разнообразие, на котором ИИ учится.
ИИ не учится на мусоре. Все эти сто сайтов схлопнутся в один при обучении
LikeAVirgin #:
Кто закладывает информацию в РАГ, ИИ или человек?

Странный вопрос - а кто по-твоему готовит РАГ? Каждый ментор может тюнить свои уроки под себя. Но будет и публичный раг по темам, доступный все пользователям.

В это и смысл - ты не просто используешь ЛЛМ - ты дообучаешь его на своих уроках, убираешь галлюцинации.

LikeAVirgin #:
Там все время какая-то Таня или Маша в онлайне висит.

Не пугай меня - какая Маша?? 😂

Без регистрации там почти ничего недоступно

ArbNet #:
Во-первых, насчёт твоей поделки.
Я тебе отвечу в два этапа. Для начала - я никогда не утвреждал, что я 
ArbNet #:
Ты тут рассказываешь какой ты мега супер программист

Да. Мне посчастливилось работать в очень крутых командах, иногда я себя там ощущаю джуном, иногда Лидом, и все это - опыт, которого у тебя нет и не будет. Заметь - я работаю в Айти компании,  "которая входит в престижные списки крупнейших публичных компаний,  S&P 500 и Forbes Global 2000. В ежегодном рейтинге Excellence 1000 компания стабильно находится в топ-5 лучших поставщиков IT-услуг и консалтинга". Пик твоей карьеры - кладовщик, правильно?
Дальше

ArbNet #:
это поделка уровня студента.

Скажи, а ты зашел, посмотрел? Доступ открыт, регистрация занимает 5 минут или меньше, форумчанам я даю бесплатные кредиты, чтобы поработать с моделями -топами. Ты видел, какой там есть функционал? Хорошо студент - а расскажи что ты сделал за этот год, например? Уровня не студента? Вот просто интересно.
Опять же я в сотый раз скажу - все мои проекты изначально не несут в себе коммерческой составляющей Получится - отлично, нет - это просто полигон моих идей. Захотелось повозиться с сео агентов - попробовал, многие наработки оттуда переехали в этот проект. Идея с сайтом для репетиторов витала давно именно из практики - я видел системы обучения, разрабатывал их, знаю недостатки и плюсы. И вот решил попробовать свое.  Про финансы речь пока даже не идет - трачу на все из кармана.
Изначально это были просто онлайн курсы, расписание - место где репетитору и ученику удобно найти друг друга. Но счас уже выросло в систему, построенную на ИИ

ArbNet #:
в смысле зачем вообще тут ИИ нужен,

Если захочешь расскажу. 

ArbNet #:
Да и студенты лучше с онлайн ИИ будут заниматься чем с твоей г. поделкой,

То есть ты попробовал и говоришь так уверенно? Что не так в ней? Я за критику, но конструктивную. Жду фидбэк - можешь только то, что тебе не понравилось. С какой системой ты сравнил?

ArbNet #:
Во-вторых, по моему мнению для локальных ИИ, слабых компьютеров нет хорошего решения, даже Ollama хоть в принципе и рабочее решение, но и оно имеет массу недостатков, требовательна к ресурсам, модели слишком громоздки, обученные на разных языках, с кучей не нужных данных(когда требуется только под определённое направление) и тд.

Давай и тут конструктивнее - что по твоему лишнее в оллама? Я вот не вижу ничего - это обертка над llama.cpp  которая решает несколько проблем, я уже выше писал каких. Но ты проигнорил мой ответ и опять нет конкретики.
Обьясни , при чем тут локальное, если я ясно написал, что это будет крутится в облаке - я могу там поднять что угодно хоть на 64 гига памяти, хоть с GPU
На остальное отвечу позже. 

master32 #:
а какая разница?
Как вы яхту назовете... Если нет понимания своего  - никакой гпт не поможет. правильная формулировка вопроса - половина успеха.

LikeAVirgin #:

Неа. :D 
Я сколько раз пыталась в целях экономии времени и мозгов впихнуть побольше и на самотек. В результате: сделано

криво, бизнес-логика сломана в целях "улучшения", токены сожраны, время потрачено. Поэтому откат и поэтапно на коротком поводке. Но если токенов дофига и эксперимент - почему нет. ;)

Есть такие подозрения, но очень хочется испытать судьбу))) Кстати делаю как ты - написал в Соннет, дал на ревью ГПТ-Кодекс.  Он нашел реально косяков несколько и предложил добавить примеры реализации из существующего кода.
А потом запущу ревью снова в Соннет. Думаю прогнать еще несколько итераций перед началом. Это хорошо еще и тем что перечитываю, вспоминаю какие-то моменты по проекту, что уже есть или что косячное - прошу исследовать и добавить
кстати реально дельное предложил 

  1. Могу сразу добавить в tutor_improvement.md готовый раздел Autonomous Agent Operating Rules.
  2. Могу прописать конкретные команды из Makefile в виде обязательного чеклиста для каждого этапа.
  3. Могу добавить шаблон Stage Completion Report, который агент будет заполнять автоматически.


Прям офигеваю, как он крут и понимает меня.  бац - и толковый анализ и изменения, даже не могу придраться пока что:
За что его тут отругать?

  1. В разделе tutor_improvement.md добавлен обязательный блок Cloud Target: GCP Compute Engine.
  2. Зафиксированы источники истины для деплоя:
    Makefile,
    README.md,
    DEPLOY.md,
    deploy_gcp_ssh.sh,
    check_health.sh,
    gcp-deploy.yml.
  3. Добавлен Docker-first runbook для локального контура на базе docker-compose.dev.yml:
    сборка, запуск, логи, рестарт, остановка, down, а также точечные команды для learn_app_dev и learn_worker_dev.
  4. Расширен Autonomous Agent Operating Rules:
  • обязательный Docker-runbook в A2,
  • обязательный GCP-runbook в A2 (gcp-init, gcp-plan, gcp-apply, gcp-deploy-ssh, gcp-health, gcp-logs),
  • добавлены требуемые GCP переменные для CLI,
  • добавлены обязательные CI secrets из workflow.
  1. Усилен Quality Gate:
    для runtime/infra задач теперь обязателен gcp-health,
    добавлен отдельный release-gate для проверки деплоя, health и логов на VM.
  2. Добавлен A10 с ревизией CI/CD поведения GCP workflow:
    зафиксировано, что deploy триггерится вручную или после успешного Auto Release (а не по любому push),
    и что агент обязан проверять совместимость с deploy_gcp_ssh.sh и документацией gcp_conf.

Validation:



Всего: 8123