stason11111

Рейтинг
112
Регистрация
09.11.2010
Насколько я помню, в безопасноти и нарушениях же никогда не отображались блоки со снятыми ограничениями? Оно появилось только сегодня? У кого висит Мимикрия - ограничение снято, на вас когда-нибудь вообще накладывался этот фильтр на этот домен?
avangard #:

у кого 27 началось падение? у меня 16 не было. 

вижу просадка пошла 27

Есть такое дело. В 20.00 примерно. Коммерция

irischkastr #:

У меня пока висит фильтр, но странно, некоторые статьи до сих пор в топе, хотя трафик урезан был в 3 раза, сейчас уже в 4-5 раз

А вы каким крупным конкурентам делали анализ, если не секрет? Просто интересно проанализировать, что за тесты Яндекс проводит.

irischkastr #:

Делала анализ крупных конкурентов, у них сильная просадка.  Может действительно тестируют

Тоже заметил сильные подвижки в коммерции электроника и бытовая техника примерно с середины дня 16 июня. Вроде агрегаторы немного сместили и вверх полезли магазины?

Delysid #:

Ну что ждём новую версию ботов, будут тупо водить по экрану мышкой и кликать по экрану в разнобой и им всё равно там реклама или кнопочка. 

И это тебя не ддосили а напустили ботов как раз что бы боты кликали в разнобой по экрану и по результату смотрели сколько боты попали по твоей кнопочке.

лол. тыкать не получится. После неудачной попытки кнопочки исчезают до обновления страницы. Да и когда был всплеск, такой страницы не было ещё. это октябрь. большое количество неудач или большое количество обновлений с одного ip - закрытие доступа с ip и ещё пару условий как минимум на час

Надеюсь мой пост будет полезен.  В общем для себя я нашел решение, которое отсеивает 99% этих ботов, и практически не влияет на живой траф. Не скрытием метрики, а полной их блокировкой.

Сначала немного картинок.

Динамика переходов с соц сетей. Я до последнего забивал на этих ботов, но как видно, последнее время начала твориться жесть и когда она закончится непонятно. С 7 декабря как раз начал их блочить.

переходы с соц.сетей

Аналогично с прямыми заходами. На вспелск можно не обращать внимания, это неудачные попытки ддоса негодяев). Тут видно, как аккуратно и понемногу наращивается количество.

прямые заходы

Теперь смотрим как это отражается на поведенческих в целом. Для примера среднее время

время

На отказы и глубину влияние менее значительное.

Пока за 3 дня собралась статистика в 30к посещений ботами. Скажу сразу, вариантов борьбы было протестировано много. По стате из всех этих ботов 75% из них умеют js. Тестировался и антибот, предлагаемый тут. По поводу платной версии не в курсе, но бесплатная отсеивает как раз остальные 25%, которые просто не умеют исполнять js. Обычная рекаптча очень лихо отсеивает живых юзеров, да и вообще всё, что заставляет что-то вводить. По крайней мере у меня 80% сваливают.

Лично я отображаю простую и понятную страницу с лого, отрисованую под стиль сайта, где юзеру надо просто выбрать кнопку правильного цвета из небольшого количества таких же серых кнопок и коротким текстом объясняю зачем. примерно 95% проходят её без проблем. Кнопка каждый раз, при обновлении страницы или новом заходе меняет позицию. Мизерная часть ботов кликает по первой, остальные ничего не делают.

Эта страница (назовём её каптчей) не показывается для поискового трафа, поисковых ботов и для определённого рода источников (типа толоки).

Конечно, я отображаю её с пару десятков дополнительных проверок (в том числе собираемая стата по подсетям)  для прямого трафа (в основном мобильного), переходов по ссылкам на сайтах и соц сетей.

Конечно, объяснил я очень в кратце, чтобы донести саму суть того, что боты не умеют что-то анализировать и выполнять простые задачи.

Всю логику проверок и саму страницу палить не буду, по понятным причинам, просто хочу донести, что игнорить их можно, сохраняя при этом реферер и имея нормальную стату в метрике.

Возможно этот метод подойдёт не всем. Например тем, у кого весь траф в основном с каких-то закладок и т.д.

У меня до этих ботов поискового трафа было подавляющее большинство.

Кидаю пару файлов со статой по собранным подсетям и провайдерам. слева подсеть, спарва количество посещений ботов, которые слились при проверке. Через пару надель думаю стата перевалит за полляма и станет более полезной, если ботов не отключат) Кому интересно, могу сюда скидывать или на какой-нить Я.Диск раз в неделю. Стата собирается с нескольких разнотематических проектов. В основном с сайта, имеющего прямое отношение к товарке.

PS вывод простой. Живой пользователь, переходящий напряму на конкретную страницу, по ссылке на сайте или из соц.сети заранее заинтереснован в информации на вашем ресурсе, в отличии от перехода из поиска. И лояльнее отнесется к адаптированной под все устройства, человекопонятной и простой проверке (вводить ничего не будет, т.к. ленивый :) ). Приходящий же из поиска скорее закроет и вернется к результатам выдачи.

txt ips.txt
txt providers.txt
bahinnn #:

нет у меня разного контента, показывается только реальная страница, поддельные боты пс вообще на сайт попасть не смогут

кстати, тот файл с сетями, который выкладывали. Я с моего моб. телефона по нему попадаю под бота, имея ip 217.66.156.10 :)

Докину сюда ещё подсетей для файла от  bahinnn, что насобирались за день на приличном трафике. Может кому полезно будет

'188.162.144.0/24',

'178.176.212.0/24',

'188.162.192.0/24',
'178.176.214.0/24',
'188.162.141.228/24',
'185.3.32.193/24',
'188.162.140.0/24',
bahinnn предоставил классное решение на nginx. Если кому нужно, вот проверка на ботов для php (в прикрепленном файле). Проверять так Net::isSpammer. Вообще очень много страниц в ветке, но в основном вода. Предлагаю, по мере мониторинга, добавлять сюда найденные подсети/отдельные ip адреса ботов.
txt bot.txt
bahinnn #:

нет, не только мобильные, я видел и adsl (PPOE)

Всё, теперь понял) не прочитал документация про sub_filter

12
Всего: 13