serg-smirnoff

serg-smirnoff
Рейтинг
139
Регистрация
23.02.2008

Еще пару полезностей, по теме

grep 'bot' "/data/logs/domainname.tld.access.log" | awk '{ print $12}' | sort | uniq -c | sort -n -k 1 | tail -n 30

Вывести наиболее активных 30 ботов из лога apache (для блокировки по user-agent)

Мой вывод

2 SurdotlyBot/1.0;

3 MegaIndex.ru/2.0;

4 Baiduspider/2.0;

5 Exabot/3.0;

7 YandexImageResizer/2.0;

8 DeuSu/5.0.2;

10 Yahoo!

11 2

14 NT

15 (compatible;

15 Configuration/CLDC-1.1

21 1

22 Uptimebot/1.0;

23 CPU_TIME:

24 SputnikBot/2.3;

43

82 SeznamBot/3.2;

92 Android

128 YandexImages/3.0;

181 YandexNews/3.0;

196 CPU

252 0

331 YandexMetrika/2.0;

460 YandexDirect/3.0;

658 YandexBlogs/0.99;

1031 MJ12bot/v1.4.5;

1658 Googlebot/2.1;

2164 AhrefsBot/5.1;

2684 bingbot/2.0;

16780 YandexBot/3.0;

По сути, основных под бан, это 2164 AhrefsBot/5.1; + 1031 MJ12bot/v1.4.5; + 24 SputnikBot/2.3;

Благодарю!

ant_key:
Блокировать ботов через apache в 2016-м - большая глупость. С каждым заходом apache форкается, это отнимает много памяти, CPU.

Блокировать надо на фронтенде - через nginx, работает что называется blazing fast и надежен, как автомат Калашникова.
+ fail2ban.

Если не затруднит, напишите бегло пример. Разберу, может быть приму на вооружение.

Возмездие? Помощь. Нагрузили площадку? Вбили ключ "бот мегаиндекс грузит впс" или "с 148.251.236.167 превышение нагрузки" Зашли на серч, применили правила из темы.

А еще, вот они головой думать не пробовали? Поиграются год два, скинут IP, а он потом в hetzner кому-то в наследство перейдет. Со всеми вытекающими. ...ка бесит.

Зачем? Площадки посещают десятки скан-ботов в день. Каждым что-то нужно написать? Нет, мне от них ничего не нужно. Про них мне все понятно.

Лучше им в поддержку написать, наверное.

Кому им? (еще символы)

sultanbey:
Тут речь не идет о ваших заказах в Черногории.

У меня нет заказов в Черногории. Тут речь идет о блокировке резидентов РФ (потенциальной) по аналогии с блокировкой резидентов полуострова Крым в системах adsense и adwords

Все остальные умозаключения исходят из этих двух предположений.

Вы тут начали сравнивать белое с теплым. Надо сначала разобраться в типах сайтов, нишах, трафике, товаре или услуге, который продается и так далее.

А то взяли тут цифры накидали, что-то эфемерное посравнивали... Ерунда какая-то. Речи не шло о том, что русских в России живет меньше, чем русских в Литве, Латвии и Эстонии. Больше. Речь шла о том, что блокировкой адсенса и адвордса на территории РФ жизнь вебмастерская не заканчивается. Я привел пример выше со своим конкретным случаем.

Если у вас будет русскоязычный сайт рекламирующий рент-э-кар в Черногории то естественно ваши 20 кликов с конвертацией в 2 заказа из региона Черногория принесут вам больше денег чем 20 кликов с конвертацией в 0 заказов в регионе Россия.

Просто как-то надо сначала разобраться с тем, что с чем вы сравниваете, а потом уже сравнивать. У всех же тут разные сайты. Разные задачи. Понятно, что если у вас был сайт ЦА которого РФ, и вам отключили adwords на территории РФ, то да, это конечно труба. Но это локальная труба. А не глобальная.

bitl:
Важно. Речь об ориентированности сайта. Если он на русском языке - значит он для российской аудитории. И рекламодатели на нём российские в основном.

Если адвордс перестанет работать с РФ, то на русско-язычных сайтах просто не будет рекламодателей.

Так же и с другой стороны. Если у тебя сайт для российской аудитории, ты рискуешь остаться без трафика, если Россия, например, заблокирует твой сайт ("Чебурашка" не искулючена). Или банкам запретят (сильно ограничат) работать с зарубежными компаниями. Рапида - ёк.

Так что, русскоязычный сайт или нет - это важно.

Вы наверное меня не понимаете. Если власть США распорядится в отношении Google сделать с резидентами РФ тоже самое, что они сделали в отношении резидентов Крыма, то Adsense отключит все аккаунты всех резидентов РФ. Если ваш аккаунт будет зарегистрирован на нерезидента РФ (пример с ВНЖ в Черногории выше), то его соответственно не отключат. Понимаете о чем я? Ни о чем другом я не говорил. Рапида тут совершенно не при чем. Вывод денег для аккаунта заведенного на нерезидента РФ (пример с Черногорией выше) происходит совсем по другим правилам. Например на карту Черногорского банка.

Так что русскоязычный сайт или нет не важно. Блокировка будет происходить (если будет) не по языку сайта, а по резидентству тех на кого заведен аккаунт в Adsense

---------- Добавлено 20.06.2015 в 21:08 ----------

bitl:
Если адвордс перестанет работать с РФ, то на русско-язычных сайтах просто не будет рекламодателей.

Все так. Не будет рекламодателей, которые резиденты РФ, но никуда не денутся рекламодатели, которые резиденты Украины или Грузии или Латвии.

У меня например в магазине недавно был заказ. Заказ сделал житель Санкт-Петербурга (указано в регистрационных данных), но сделал его из Латвии. Переход был по контекстной рекламе adwords транслируемой на территорию Латвия (статса показывает переход из Латвии)

В случае блокировки adsense и adwords на территории РФ я все равно получил бы этот заказ, так как он пришел с Латвии.

Ну и так и далее.

---------- Добавлено 20.06.2015 в 21:12 ----------

А так вообще они (Google) конечно очень мало вероятно что захотят по собственной инициативе терять такой объем денег. Одно дело отключить Крым. Совсем другое отключить РФ

sultanbey:
Если сайты русскоязычные, то ни какая Черногория не спасет. Ведь если заблокируют российские аккаунты адсенс, то заблокируют и российские аккаунты адвордс. На русскоязычных сайтах полужирные 😂 рекламодатели только из России, а у всех остальных стран СНГ нам всем известно и до кризиса были полудохлыми и теперь даже хуже стали. Поэтому если заблокируют российские аккаунты адвордс, то всякие украинские, белорусские, казахские, таджикские и т.п. одним словом дохлые рекламодатели останутся. Поэтому нечего будет делать в рунете. Нужно делать проекты под бурж, а аккаунт даже можно будет зарегистрировать где-нибудь в Таджикистане. Их точно не заблокируют.
Если конечно Таджикистан также не захочет в состав России. 😂😂😂

Ну если это значимые деньги то

ВНЖ -> аккаунт в adwords на не резидента РФ (то есть на вас с вашим ВНЖ) -> доменная зона не в ru (.org .com .net .etc) -> хостинг вне РФ

А там русскоязычный сайт или нет, не важно. Блокировать будут (если будут) по данным whois, а не по русским буквам на сайте.

Всего: 280