Sly32

Не вижу смысла сравнивать его с человеками, про них я давно составил свое мнение. Интереснее сравнить с другими моделями

Пока что впечатления от него сугубо положительные - не знаю насколько с ним можно работать  как с агентом для написания сервиса, но внутри готового он ведет себя очень хорошо. С учетом цены - отлично. Я его научил создавать уроки, тесты, с раг он нормально работает(но это еще в стадии проверки) 
За целый день работы потратил 3 цента))) Я его даже сделал по умолчанию для тех кто хочет халявы теперь. 
Но понятно что это тлько первые впечатления.

Просто ты не сможешь такое реализовать. Потому отмазы

Ничего ты не делаешь, опять сказки. Это то, с чего начинает любой кто хочет поработать с ЛЛМ.  Ты вот даеж не погуглил нормально, прочитал что я и другие тут раньше писали. У тебя даже шаблон не изменился.

А слабо обьяснить что не подходит?  забавно, если бы ты понимал о чем пишешь, ты бы упомянул прародителя - LLama.cpp  и ее поюзал бы.
Тулов для ЛЛМ локальных огромное множество, которые пишутся и поддерживаются профессионалами. Никакого смысла нет писать что-то свое. Это не решит никакую задачу.

мою работу ты в жизни не сделаешь. Это была простенькая задачка в рамках курилки этого форума. Но ты даже ее не смог сделать.

NP 😀 У меня аналогично - работой завалили. 

Именно. Кстати я там довольно много перепилил в плане дизайна. Допилил темный темы, только вот для ИИ тьютора не до конца. Для блоков кода вообще сделал выбор темы. 
Из реально  интересного - подкрутил ботов. Добавил моделей, в том числе дипсик. Добавил БД для бота - ьеперь его можно обучать на примерах. Правда пока не удается притупить его до уровня  некоторых форумчан - ну не умеет он невпопад отвечать) Зато с Дипсиком бот уже научился замит так, что некоторые сообщения вообще не проходят модерацию)))
Подкрутил генерацию квизов.
сделал возможность использования своих APi Keys  для Дипсика, ОпенАИ и Антпропика.Билинг теперь учитывает. работаешь ты со своим токном или на форумные кредиты.

Мальчик, иди отсюда, не мешай, песочница не тут. Учи теорию, потом во взрослые разговоры лезь. Как брошенная девочка за мной бегаешь. Хоть бы раз чего по делу сказал.

Естественно, а кто утверждал обратное? Нужно грамотное делегирование и понимание задач, чтоб не быть как экономист.
Я так  понял ты соскочил уже со второго челленджа 😂

Там за лимиты трафа очень сложно перепрыгнуть.
Связано, надежнее, но я тут не буду строить, потому что каждый выбирает конфигурацию исходя из своего опыта и требований. Я только привел пример. Конечно можно запросто убрать базу отдельную и будет дешевле. У меня счас в инстансе на 8 гигов оперативы и 4 vCPU  в Гугл крутится и постгрес и нжинкс и воркер для очередей. В очередях - задачи для ИИ обработки. Провисов пока не замечаю.  Теоретически так можно и в прод выходить, но тут вопросики с безопасными бэкапами базы. Счас то - по барабану - нчего ценного нет, но если решу систему выдвинуть в коммерцию - другой подход.

Ради интереса зашел в калькулятор посчитать стоимость. Его кстати, довольно сильно поменяли  с тех пор как я им пользовался. Я обычно сразу в нужных ресурсах смотрю.
Вон например расчет:

То есть примерно 26 баксов в месяц за 4vCPU+8RAM Под основную машину + 8Х8 За базу данных. Хотя можно все поднять в одном инстансе, но мы же хотим надежности.  НЕ такая уж и неподьемная цена имхо

Как только мне захочется пообщаться с кем-то, абсолютно некомпетентным во всех вопросах, тем кто лезет затычкой в любую бочку, кто любит поучать, не владея какими-то компетенциями, кто не в состоянии потестить даже предоставленный сервис - я сразу же тебе отвечу. А пока не мешай взрослым дядям разговаривать, иди учи, почему нельзя "сделать запрос по REST API" чтобы твой диплом по "питону" не отозвали 😂

Ну, тут ничего не поделаешь - чем сложнее сервис, тем сложнее и разобраться в нем. Не зря же у Амазона есть система сертификации  разных уровней и это реально диплом, который имеет ценность. Но когда начинаешь разбираться - все не так уж и страшно. А когда начинаешь понимать преимущества - понимаешь, зачем тратить усилия на это вот все.  Все таки зависнуть на уровне сайтиков под вордпресс, это не то с чем сегодня можно выжить, имхо.