Тоже хотел поиграться с мамбой.
qwen3.5:2b-q4_K_M
Куда приспособил квен? Контекст небольшой,. В каких задачах неплохо себя чувствует?
decision модели
У них своя ниша. Ниша, где не надо писать тексты, а надо анализировать и делать выбор очень быстро. Думаю у них есть большие перспективы. Возможно даже больше, чем у LLM моделей
Ну пока мамба не впечатлила. Квен будет как ассистанс бот и для демо.
Decision. На самом деле ничего нового, мы уже два года используем реранкеры, которые в принципе делают ту же работу- выбирают ответы или данные. Они трансформеры не заменяют, дополняют
Возможно, но у меня нет и не будет метрики
Точно. Я консоль интергровал в внвлитику и могу прямо там смотреть запросы. В любом случае спасибо за конструктивный ответ
Так ИИ гораздо же удобнее работать с BQ- он у меня оттуда и берет данные и да
предлагает отчеты, о кторый я и не думал. Мне кажется это довольно удобно.
Пока что у меня очень мало данных для хорошего анализа. Как закончу SEO-аудит сайта - попробую поработать с продвижением, и с органикой и с плантым траффиком для начала, потом и SMM подключу. Пока что на все нет времени.
Появилась необходимость снова поработать с локальными моделями, работающими на слабом железе и ограниченной памяти. Причем прям очень жестко - всего : Гиг оперативы и 3 ядра на контейнер. Нужно для демо, чтобы пользовательмог попробовать возможности сервиса без оплат. Ну и для внутреннего помощника по сервисы, фоновой генерации.Не стал усложнять себе жизнь, продолжил работу с уже понятной Ollama. Перебрал, наверное с 2 десятка моделей.
Зацепил наконец-то модели с новой архитектурой - MOE. и hybrid - transformer+mamba. Тут эксперимент оказался с отрицательным результатом - на слабом железе они не шевелятся, хотя теоретически мамба должна быть гораздо быстрее. Только одна модель показала что-то удобоваримое.Вернулся к классике, в итоге выбрал три моделиqwen3.5:2b-q4_K_M - фаворит - занимает 1.8 Гиг, о чень шустрая и хорошо работает с русским языком - ставлю ее по дефолту
granite4.2:3b-q4_K_M - моделька от IBM, примерно равно по параметрам, тоже квантована в 4 раза, но с русским у нее хуже обстоит делоgranite4:3b-h - Оставил пока что исключительно из-за новой архитектуры - мамба модель. нужно поиграть параметрами, может пойдет, теоретически она самая умная - 3.2B параметров против 2В у остальных
В целом, как какой то ИИ помощник по сервису, подкрепленный свое БД - вполне имеет место быть
У меня с ботами борется Cloudflare. Ещё до статистики.
Понятно, спасибо. Пока проверить не могу но буду знать. По факту насколько я понял, теперь вся аналитика строится с упором на анализ данных через ИИ, поэтому и увели все в BQ
Понятно, буду знать. У меня изначально была своя встроенная статистка, которая фиксирует действия пользователей на сайте, борется с ботами и еще всякие мелочи, интегрирована с логированием.
А про многие нюансы я еще и не думал, так что спасибо за понятные ответы.
Я не стану утверждать, что аналитика прям очень дружелюбный интерфейс имеет - это по меньшей мере глупо.
Но это сложный инструмент, с кучей возможностей, даже исходя из моего теперешнего опыта в неделю, я вижу что в ней можно получить практически все. Последняя версия уже с сильным упором в ИИ и аналитика строится через ИИ анализ.
можно пример? У меня нет большого траффика и я не могу проверить. Но хотелось бы разобраться на будущее.
И тут поподробнее - в чем вина аналитики? Только она с куками работает?
Потому что это перехало в запросы. У меня в Жигулях 2102 был вообще кривой стартер а в форде его нет - Он стал хуже? Просто нужно не лениться разбираться в новом.
А ты даже показ нескольких сайтов не можешь настроить в аналитике. И не понимаешь что твой визуальный анализ по вебвизору - фигня. Кароче, везде сказки, нчиная от экспертности, заканчивая заработком. А в элементарном разобраться не смог.
