master32

а что у вас под капотом используется, можно узнать?)

оно тебе нафиг не нужно, возьми gemini flash для бедных студентов и преподов, 100м токенов за $10)
нормально работающие локальные модели от 70B под rtx6000 96gb, еще куда ни шло, остальное под узкоспецифические задачи, но это все быстро устареет, поэтому не вижу смысла их тестировать
5090 можно взять в аренду за $150/m и там развернуть какой-нибудь дистилированный дипсик, дешевле только апи из логов юзать, но это уже серая тема)
мой вердикт - бери дешевый апи от гугла и ставь ограничение на пользователя по токенам, самый оптимальный и быстрый вариант

смотря для чего, включать светодиод по событию с помощью llm можно, а чудес расчудесных от таких моделей можно не ждать)
конкретно из последних использовал UI-TARS и MAI-UI, для специфичного закрывания всплывашек рекламы на мобилках)
из локальных рабочих моделей стоит пробовать запускать qwen 3.5 чем старше тем лучше, или glm5 но она тяжелее сомневаюсь что ноута хватит, все остальное хуже по моим наблюдениям
мой повседневный топ юзфул это codex 5.4, opus 4.6, gemini 3.1, grog 4.2
гоняться и выбирать лучше/дешевле не имеет смысла, через 1-3-6 месяцев все изменится)

в рф хорошее сливочное масло в мск стоит 3-4евро

цены во всем мире растут, это глобальное мировое обнищание под соусом капиталистической инфляции

с кучей оговорок, конечно, но контекст когда детерминация используется в качестве индикатора надежности,
лично у меня много мелких моделей 1b-2b-4b-8b и там воспроизводимость результата очень важна и она возможна, llm это не рандомайзер, как некоторые считают

так это и есть включение рандомайзера и выбор алгоритма, сделай не sampling, и фиксированный seed и результат уже предсказуем, без потери качества

только если ты указываешь параметр рандомайзера, а если рандомайзер зафиксировать, то результат абсолютно всегда будет одинаковым, более того этот результат можно просчитать вручную на бумаге)

наверное многие тут не понимают, но llm это детерминированная система)

как это понять?
у всех нынешних AI точный математически предсказуемый результат

толк в том, что он в белых списках, будет доступно все что доступно из кз, в том числе и "админить в бурже"
ребята заворачивают свой персональный ркн в этот гос-ркн, как говорится "береженого Бог бережет", сказала монашка, натягивая презерватив на свечку)