Sly32

Рейтинг
404
Регистрация
29.03.2012
Должность
Software engineer

Появилась необходимость снова поработать с локальными моделями, работающими на слабом железе и ограниченной памяти. Причем прям очень жестко - всего : Гиг оперативы и 3 ядра на контейнер.  Нужно  для демо, чтобы пользовательмог попробовать возможности сервиса без оплат. Ну и для внутреннего помощника по сервисы, фоновой генерации.
Не стал усложнять себе жизнь, продолжил работу с уже понятной Ollama. Перебрал, наверное с 2 десятка моделей.

Зацепил наконец-то модели с новой архитектурой - MOE. и hybrid - transformer+mamba. Тут эксперимент оказался с отрицательным результатом - на слабом железе они не шевелятся, хотя теоретически мамба должна быть гораздо быстрее. Только одна модель показала что-то удобоваримое.

Вернулся к  классике, в итоге выбрал три  модели
qwen3.5:2b-q4_K_M - фаворит -  занимает 1.8 Гиг, о чень шустрая и хорошо работает с русским языком - ставлю ее по дефолту

granite4.2:3b-q4_K_M - моделька от IBM, примерно равно по параметрам, тоже квантована в 4 раза, но с русским у нее хуже обстоит дело

granite4:3b-h -  Оставил пока что исключительно из-за новой архитектуры - мамба модель. нужно поиграть параметрами, может пойдет, теоретически она самая умная - 3.2B параметров против 2В у остальных


В целом, как какой то ИИ помощник по сервису, подкрепленный свое БД - вполне имеет место быть

Общий вопрос к знатокам - а какие отчеты в принципе вы считаете самыми полезными а аналитике-метрике. На что в первую очеред ориентируетесь? Интересен ответ в таком видет - тематика ресурса - что важно знать по нему? Я так понимаю отчеты по информационнику, магазину, сервису  будут абсолютно разные?
LikeAVirgin #:

У меня с ботами борется Cloudflare. Ещё до статистики.

CF это бесспорно хорошо, но мне нужен был анализатор логов, чтобы не лазить в систему каждый раз, в итоге увлекся и расширил функционал. Сисетм анализирует подозрительную активность и сама добавляет ботов и  спамные айпишники в блэклист. Пока хватает.
LikeAVirgin #:
Почитай про сэмплирование (sampling) в Google Analytics. Да можно все утащить в BigQuery, но тогда вопрос, зачем мне эта урезанная прокладка в виде GA?

Понятно, спасибо. Пока проверить не могу но буду знать. По факту насколько я понял, теперь вся аналитика строится с упором на анализ данных через ИИ, поэтому и увели все в BQ

LikeAVirgin #:
Это не вина статистики, а вина GDPR....

Понятно, буду знать. У меня изначально была своя встроенная статистка, которая фиксирует действия пользователей на сайте, борется с ботами и еще всякие мелочи, интегрирована с логированием. 

А про многие нюансы я еще и не думал, так что спасибо за понятные ответы.

LikeAVirgin #:
интерфейс для меня неинтуитивный, меню, плашки - какие-то "заумные" названия. Называли бы все своими нормальными именами, мне было бы проще. Специально для Sly: примеров "заумных" названий давать не буду, нет времени. И раз я их не понимаю, то чтобы сэконоимить время сразу же соглашаюсь с тем, что я дура, никаких знаний не имею, а Sly умный и все понимает. 

Я не стану утверждать, что аналитика прям очень дружелюбный интерфейс имеет - это по меньшей мере глупо. 

Но это сложный инструмент, с кучей возможностей, даже исходя из моего теперешнего опыта в неделю, я вижу что в ней можно получить практически все. Последняя версия уже с сильным упором в ИИ и аналитика строится через ИИ анализ.

LikeAVirgin #:
- на большом трафике GA режет информацию и дает мне "выборку". Бесит, я люблю ВСЕ цифры иметь, а не среднее по палате, которое GA посчитал нужным.

можно пример? У меня нет  большого траффика и я не могу проверить. Но хотелось бы разобраться на будущее. 

LikeAVirgin #:
- треть посещений блокируется, потому что пользователи не принимают cookie (Европа, GDPR, многие с алюминиевыми шапочками ходят, чтобы от cookie не заразиться)

И тут поподробнее - в чем вина аналитики? Только она с куками работает?

Vladimir SEO #:
еще раз для тупых - нету графика в аналитиксе в реальными данными за сегодня в период. если для этого надо выгружать график и потом его собирать как то - это идиотизм. Потому что ранее работало - после обновы нет. 

Потому что это перехало в запросы. У меня в Жигулях 2102  был вообще кривой стартер а в форде его нет - Он стал хуже? Просто нужно не лениться разбираться в новом. 

А ты даже показ нескольких сайтов не можешь настроить в аналитике. И не понимаешь что твой визуальный анализ по вебвизору - фигня. 

Кароче, везде сказки,  нчиная от экспертности, заканчивая заработком. А в элементарном разобраться не смог. 

И так подведем итоги. Эксперты являются таковыми только на словах, а по факту не умеют пользоваться инструментом
1. у аналитикса нету списка сайтов с посещалкой видимой - это огромный минус для тех у кого больше 1го сайта, тут таких большинство 
Есть, можно делать любые сводные таблицы по любым ресурсам, связанным или нет и получать сводные отчеты. Плюс еще есть Локер студио
2 нету вебвизора - очень нужная штука - особенно в а/б тестах и дизе

вебвизор - для того чтоб посмотреть? Серьезный анализ с ним не сделаешь, а в аналитике есть отслеживание ивентов, которое даст точную картину как пользователь бродил по сайту, какие разделы популярны, куда он не заходит и тд. И это гораздо более мощный анализ и для тестирования и для понимания ошибок в дизайне. с учетом того что все это выгружается в ИИ. 

3 все графики идут с отставанием почти в сутки на сегоднящнюю дату - такая задержка очень большой минус, прям беда

И в очередной раз для неучей -  в BQ отчеты стримятся  в реальном времени.

Очень смешно читать тут наезды на ГА, а потом видеть в другой ветке что метрика неправильно считает заходы 😂

Подключил вчера BQ   и сегодня уже приехали новые отчеты. Жаль мало данных, но для меня  выглядит впечатляюще - какие хочешь анализы.

А самая мякотка - вообще не нужно возиться с составлением запросов. AI insights  все делает за тебя. Просто пишешь что хочешь, он анализирует и выводит данные. На хороших обьемах - будет красота.


Главное не показывать это заказчикам - трудно будет обьяснить "10-ку к в месяц".

Кто попробовал - расскажите что у все получилось?

PS. Если есть более подходящая тема для обсуждения - ткните плиз. Все таки это прям тематическое обсуждение по оптимизации

Антоний Казанский #:
ChatGPT может использовать символ табуляции и это не пробел.

И я использую символы табуляции, например в таблицах и это вообще не пробелы. Какая связь? Это не взаимозаменяемые символы. 

Еще раз для тех кто в танке. Ватермарки и детект ИИ контента  это вообще не про какие-то символы в тексте. Это определенные паттерны построения слов. ИИ может применять в тексте немного отличающиеся слова, можно сказать синонимы. Просто так, самому отличить это ооочень сложно, в у ИИ есть алгоритм, которым он может проверить текст. 
Если очень примитивно - применено не  "считать" а "калькулировать". И это не одно слово а цепочка в предложении или даже абзаце. Поэтому чтобы от такого избавиться - нужно очень постараться, потому что мы не знаем как алгоритм генерации так и алгоритм проверки.

Vladimir SEO #:

мне это все нахрен не нужно для работы, как и 90% юзерам счечтиков

печально. Но наврено если умеешь только ссылки закупать - то да, не нужно. Ты бы у Казанского поучился, как бы я к нему ни относился...

Vladimir SEO #:
так ты не зарабатываешь 10к хгггг

конечно нет, к счастью поболее имею.

Я понимаю что диалог с тобой - прямой путь в бан. Но изначально мне было интересно разобраться в возможностях аналитики. Вот я думаю сейчас попробовать подвигать свой сайт и смотрю, как мне моджет помочь аналитика. из того в чем разобрался - практически все есть что я хотел бы попробовать. Но мне неинтересно просто ссылками продвигать. я рассматриваю сейчас как минимум 3 источника -SEO, SMM, paid traffic(adwords) А для того чтобы все было оптимально - мне нужен комплексный анализ. что пришло директ, что из поисковиков, что из соцсетей и что их рекламы. В аналитике я могу это комплексно обрабатывать с большой точностью. А предикт и ML  поможет нормально планировать расходы и видеть что эффективнее. Ты так умеешь? Нет. Тогда зачем ты нужен вообще?

Всего: 8664