Sly32

Рейтинг
405
Регистрация
29.03.2012
Должность
Software engineer
Александр Воробьев #:

Задал агенту написать модуль на php. (сама логика простейшая: сгенерировать картинку аватара по нику и теме.

Из сложностей (для LLM): модуль для гарантированно им неизвестного фреймворка,  сами агенты явно не топы и бесплатные тарифы.

А как ты его настраивал? Агент нормально умеет работать с локальным репозиторием? Скилл агента делал?  Суб-агентов?

А я никак не могу закончить с своими моделями.  Решил таки попробовать поработать с  уже готовыми моделями и их файн-тюнингом. По факту  это тоже первый мой опыт. модель и взял минимальные - 1B/2B, mlx-llm -  для тюнинга. Тут уже особо делиться нечем, потому что он работает только на метале - Эппловских чипах. Уже доделал весь функционал с нормальной обвязкой - выбор моделей, настройка параметров практически всех что можно. Теперь пытаюсь. запустить обучение, посмотрю на результаты. 
Vladimir SEO #:
особенно  великому владельцу мнения всех поляков про украинцев,
я тебя расстрою - это далеко не мое мнение. и не только поляков. Но это вообще не тема  для этого топика. Жаль что ты решил на это переключится и извини что тэгнул тебя в расчете на адекватность. Исправлюсь.
Vladimir SEO #:
Блина дет сад какойто, мы же не про хобби разговариваем

а чему ты удивлен? разве за все время было что-то иное?

2A - идей на мильон так и не появилось)

Сегодня был удивлен. Закинул свою фотку, на которй предварительно удалил табличку  информационную о машинке
И ОпенАИ и Антропик решили что это Леопард-2, когда закидывал оригинал фотки - они по табличке уже определяли что это за танк.
К удивлению только Gemini c первой попытки определил что это К2 "Черная пантера" южнокорейский. А я вот до сих пор сильно с предубеждением относился.  Все проверки делал прямно в приложеняих на айфоне. Джемини был последним, но нельзя же предполагать, что он подсмотрел диалоги с первыми двумя? 😀


master32 #:
уровень гпт-3.5)
Да не, там сложнее проблема. Вот что бывает, когда у тебя диплом по Питону))) Если для решения такой задачи нужен прям клод- я спокоен за себя.  Тем более что решение на уровне даже не джуна - студента. Я сомневаюсь что там реально клод участвует) За такой код у нас еще 6 лет назад  на собесах сразу расстреливали в лесочке за офисом))) Чтоб не мучались.
ArbNet #:
К примеру Sly32 кучу всяких идей генерирует и ничего не может реализовать, всё у него что-то не срослось и тд.
Ну конечно же, как тут без меня 😀 Можно немного уточнений - а что именно у меня не срослось? Я работаю как и мечтал, программистом, за это получаю немного денег, достаточных на какой то уровень жизни - ну там машина, квартира, путешествия...
Тут я пишу только о том, что мне интересно, что-то для развития. Коммерческую сторону  не обсуждаю. Извини, Но ты даже не поймешь то, что я делаю за деньги. Обкатываю какие-то теории. Поэтому хотелось бы по-понятнее - что у меня не срослось?

И вообще мне нужна пояснительная бригада на последние 3 страницы ваших разговоров - ничего не понятно. Намешано все в кучу. Получается что программист, человек с реальным опытом и скилами(я не говорю счас про кодеров) не сможет сделать то, что сделает недоучка  с обрывками знаний во всех областях? Чисто директом и МВП? 🤣


master32 #:
попробуй скорми промпт, посмотри что выдаст
Я это делал на  мобильном приложении, лень возиться.  Промпт хороший, только я бы его делал на английском языке с требованием вернуть ответы на русском - он гораздо лучше работает с английским.  Ну и маркдаун разметку добавил бы обязательно. Возможно ты просто без нее скопировал.
Sly32 #:
Вот кстати, Арбнет - тебе задачка на знание ИИ

Ответа так и не последовало, как вы все видите. Вывод - все это пустая болтовня  про знание ИИ... Впрочем этого следовало ожидать.

После 3-х дней работы с Pytorch пришел к выводу что все это хорошо только для обучения и понимания как работает, от чего зависит, какие апарметры итд. Практической ценности нет. 

Критически важный момент - датасет. В домашних условиях одному практически нереально собрать такой, чтобы на нем можно было натренировать мало-мальски  полезную модель. А для тренировки нужен очень хороший. И обьемный. Просто накидать туда инфы для обьема - не получается. 

В итоге проще отказаться от этого варианта, потому что  использование как ОЛЛама с небольшой моделью+RAG так  и fine-tuning - предпологают использование базовой модели около 4 гигов, что требует в идеале отдельного сервера под нее. На данный момент для меня это нецелесообразно.

По-прежнему - кому охота поиграться - в личку скину репку, чтоб не возиться с настройками. Там уже есть готовая обертка для тренировки модели - дерзайте)

master32 #:
надо смотреть что было на входе, подтягивается ли системный промпт с доками и указаниями, 
накладно на каждое фото делать дополнительные выкладки, без явных указаний действий, имхо

забавно - про системный промпт от отказался отвечать, ссылаясь на конфиденциальную информацию, про остальное:

Если не врет конечно)))

ArbNet #:
Я же говорю, с соображением у тебя проблемы.
А у тебя с пониманием. Это конечно элементрано продумать для человека. Как это делает ИИ? Мне интересна встроенная логика рассуждений его. 
Ты вот за сутки не смог ответить на элементраный вопрос, что тебе был задан, но пришел тут банальности говорить.
Всего: 8670