для кодинга в конце прошлого года вышло прорывное gpt обновление, сейчас аналоги локальные вообще в 32 гб памяти умещаются. чтоб сравниться с опус 4.6 - надо пока 128 памяти. т.е. отставание идет в считанные месяцы. и именно под программирование есть спрос, будут обучать спец прогерские модели полюбому.
если просто для анализа кода на уязвимости и недоработки, так локальные с убранной цензурой рвут опус 4.7, находят больше проблемных мест в коде, на которые стоит обратить внимание.
😀 токены трачу. но это 200-300$ в месяц легко тратится даже толком ничего не делая.
а локальный это безлимитный апи, без цензуры (некоторые вопросы локальные без цензуры решают лучше клавдии).
облачные будут все равно очень скоро все сильнее дорожать и лимитироваться.
если придумать чем занять круглосуточно, то на отрезке в года 2-3 "инвестиции" в локальный окупятся.
так отложен же до конца года
и что ты будешь на нем варганить ? стоимость у него классная))
да скорее всего на осень откладывают, есть время подкопить ))
все тоже самое что в клавдии и чатегпт, в 256+ гигов влазят уже все современные модели. вангую что в этом году локальные будут все делать не хуже текущих версии облачных сервисов. у них по сути идет отставание месяца на 3-4 по качеству.
но если больше 10к, то я еще подумаю, надо ли он мне и не проще ли купить от амд AI Halo, у них там тоже намечаются интересные модели.
Там проще описать что ничего не хранишь и не передаешь. Чем расписывать что кому передаешь и что там будут делать с кучей перс данных.
Ну понятно, Но это укладывается в другие цели : внешняя система без хранения в своих базах, соответствие всяким ФЗ и и д
