Мусор по дефолту включен уже. Эта статья а ля для 2017 года. Плагин безопасности)) серьезно?) Ну грузи дальше ими шаред дешман хостинг, а потом  создают темы почему хост перегруз. Самая тупая статья, что есть. Я думаю даже этот контент куда будет более про безопасность https://mywebpc.ru/manual/nastroit-cloudflare-dlya-sajta/ 

Ты почитай сначала о чем был спор и тематика статьи. КФ это хорошо но это вообще не по теме.

Кто-нибудь уже попробовал decision модели?  Такой хайп вокруг них, уже все повыкатывали. Думаю тоже вот прикрутить себе и поиграться. 

Коллега недавно рассказывал не то про Джеффа, не то про Джева, хз как его правильно величать. Он встроил себе в рабочую тулзу под автоматизацию процессов. Был оч доволен результатом, говорит логику хорошо соблюдает, так что поиграться точно стоит, польза есть)

хз в чем хайп, они по описанию выглядят максимально уныло, что даже не родилось делание тестить. намного интереснее тестить просто новые модели маленьких размеров.

Да, Jew первые выкатили такое

это разный уровень и как раз помогает работать с локалькыми моделями. Другой подход  рпботе с ЛЛМ.

Появилась необходимость снова поработать с локальными моделями, работающими на слабом железе и ограниченной памяти. Причем прям очень жестко - всего : Гиг оперативы и 3 ядра на контейнер.  Нужно  для демо, чтобы пользовательмог попробовать возможности сервиса без оплат. Ну и для внутреннего помощника по сервисы, фоновой генерации.
Не стал усложнять себе жизнь, продолжил работу с уже понятной Ollama. Перебрал, наверное с 2 десятка моделей.

Зацепил наконец-то модели с новой архитектурой - MOE. и hybrid - transformer+mamba. Тут эксперимент оказался с отрицательным результатом - на слабом железе они не шевелятся, хотя теоретически мамба должна быть гораздо быстрее. Только одна модель показала что-то удобоваримое.

Вернулся к  классике, в итоге выбрал три  модели
qwen3.5:2b-q4_K_M - фаворит -  занимает 1.8 Гиг, о чень шустрая и хорошо работает с русским языком - ставлю ее по дефолту

granite4.2:3b-q4_K_M - моделька от IBM, примерно равно по параметрам, тоже квантована в 4 раза, но с русским у нее хуже обстоит дело

granite4:3b-h -  Оставил пока что исключительно из-за новой архитектуры - мамба модель. нужно поиграть параметрами, может пойдет, теоретически она самая умная - 3.2B параметров против 2В у остальных

В целом, как какой то ИИ помощник по сервису, подкрепленный свое БД - вполне имеет место быть

Тоже хотел поиграться с мамбой. 

qwen3.5:2b-q4_K_M

Куда приспособил квен? Контекст небольшой,. В каких задачах неплохо себя чувствует? 

decision модели

У них своя ниша. Ниша, где не надо писать тексты, а надо анализировать и делать выбор очень быстро. Думаю у них есть большие перспективы. Возможно даже больше, чем у LLM моделей