Парсят или бот гугла?

12
R
На сайте с 03.05.2013
Offline
26
1457

Всем доброго!

У меня ИМ. Много уникального текста самописного. Периодически его рерайтим, потому что растаскивают.

На протяжении недели вижу, что каждый день у меня висит один и тот же айпишник, может одновременно на нескольких страницах, каждый сеанс по 10-15сек.

думал забанить бы его, да поможет ли? А вдруг это бот поисковика какого?

по айпишнику вроде бы USA Mountain View.

Подскажите, плз, забить или забанить? или третий вариант?

Mik Foxi
На сайте с 02.03.2011
Offline
1215
#1

ну так посмотрите кому он принадлежит в whois

если это гугла или еще какого поисковика - то это будет видно. иначе можно смело блокировать.

Антибот, антиспам, веб фаервол, защита от накрутки поведенческих: https://antibot.cloud/ (Зеркало: https://антибот.рф/ ) Форум на замену серчу: https://foxi.biz/
AM
На сайте с 16.05.2008
Offline
42
#2

А чего ты стесняешься айпишник указать в вопросе? Думаешь тут есть экстрасенсы?

попробуй через domaintools посмотреть, там должно быть написано гугл это или нет.

Greensneak
На сайте с 26.05.2013
Offline
99
#3

Посмотрите логи сервака. Там имя бота должно быть указано.

И заблокируйте плохих ботов. Их больше 50 есть.

Регистрация домена (https://goo.gl/8evS7V), хостинг (https://goo.gl/xhACo2)
87793
На сайте с 12.09.2009
Offline
661
#4
Greensneak:
И заблокируйте плохих ботов. Их больше 50 есть.

А списочек где-нибудь есть?

Наше дело правое - не мешать левому!
P0
На сайте с 14.06.2013
Offline
126
#5
Greensneak:
И заблокируйте плохих ботов. Их больше 50 есть.

и рейтинг ботов в студию, раз уж такая пьянка:)

Процветай и просвещайся, друг
r_y_n
На сайте с 16.08.2012
Offline
76
#6

столкнулся с той же проблемой. Вот список ip кто что скажет по этому поводу.

38.99.82.191

38.99.82.237

38.99.82.241

38.99.82.245

38.99.82.199

38.99.82.218

Кто то знает что это за зверь?

Greensneak
На сайте с 26.05.2013
Offline
99
#7

У меня есть несколько сайтов на WP. На них стоит плагин better wp security. В нём есть фича блочить левых ботов. Делает через htaccess. Я скопипастил эти правила в другие сайты.

webrock
На сайте с 05.04.2010
Offline
261
#8
87793:
А списочек где-нибудь есть?

RewriteCond %{HTTP_USER_AGENT} MJ12bot [OR]

RewriteCond %{HTTP_USER_AGENT} Java [OR]

RewriteCond %{HTTP_USER_AGENT} NjuiceBot [OR]

RewriteCond %{HTTP_USER_AGENT} Gigabot [OR]

RewriteCond %{HTTP_USER_AGENT} Baiduspider [OR]

RewriteCond %{HTTP_USER_AGENT} JS-Kit [OR]

RewriteCond %{HTTP_USER_AGENT} Voyager [OR]

RewriteCond %{HTTP_USER_AGENT} PostRank [OR]

RewriteCond %{HTTP_USER_AGENT} PycURL [OR]

RewriteCond %{HTTP_USER_AGENT} Aport [OR]

RewriteCond %{HTTP_USER_AGENT} ia_archiver [OR]

RewriteCond %{HTTP_USER_AGENT} DotBot [OR]

RewriteCond %{HTTP_USER_AGENT} SurveyBot [OR]

RewriteCond %{HTTP_USER_AGENT} larbin [OR]

RewriteCond %{HTTP_USER_AGENT} Butterfly [OR]

RewriteCond %{HTTP_USER_AGENT} libwww [OR]

RewriteCond %{HTTP_USER_AGENT} Wget [OR]

RewriteCond %{HTTP_USER_AGENT} SWeb [OR]

RewriteCond %{HTTP_USER_AGENT} LinkExchanger [OR]

RewriteCond %{HTTP_USER_AGENT} Soup [OR]

RewriteCond %{HTTP_USER_AGENT} WordPress [OR]

RewriteCond %{HTTP_USER_AGENT} spbot [OR]

RewriteCond %{HTTP_USER_AGENT} MLBot [OR]

RewriteCond %{HTTP_USER_AGENT} InternetSeer [OR]

RewriteCond %{HTTP_USER_AGENT} FairShare [OR]

RewriteCond %{HTTP_USER_AGENT} Yeti [OR]

RewriteCond %{HTTP_USER_AGENT} Birubot [OR]

RewriteCond %{HTTP_USER_AGENT} YottosBot [OR]

RewriteCond %{HTTP_USER_AGENT} gold\ crawler [OR]

RewriteCond %{HTTP_USER_AGENT} Linguee [OR]

RewriteCond %{HTTP_USER_AGENT} Ezooms [OR]

RewriteCond %{HTTP_USER_AGENT} lwp-trivial [OR]

RewriteCond %{HTTP_USER_AGENT} Purebot [OR]

RewriteCond %{HTTP_USER_AGENT} kmSearchBot [OR]

RewriteCond %{HTTP_USER_AGENT} SiteBot [OR]

RewriteCond %{HTTP_USER_AGENT} CamontSpider [OR]

RewriteCond %{HTTP_USER_AGENT} ptd-crawler [OR]

RewriteCond %{HTTP_USER_AGENT} HTTrack [OR]

RewriteCond %{HTTP_USER_AGENT} suggybot [OR]

RewriteCond %{HTTP_USER_AGENT} ttCrawler [OR]

RewriteCond %{HTTP_USER_AGENT} Nutch [OR]

RewriteCond %{HTTP_USER_AGENT} NetCraft [OR]

RewriteCond %{HTTP_USER_AGENT} Majestic-12 [OR]

RewriteCond %{HTTP_USER_AGENT} DoCoMo [OR]

RewriteCond %{HTTP_USER_AGENT} YodaoBot [OR]

RewriteCond %{HTTP_USER_AGENT} AhrefsBot [OR]

Полный аудит сайтов. (/ru/forum/765361)
юни
На сайте с 01.11.2005
Online
933
#9
r_y_n:
что это за зверь?

Когентовская подсеть, тиер-1 оператор. Вряд ли это Гугл.

https://searchengines.guru/ru/forum/944108 - прокси-сервис на базе операторов домашнего интернета, сотни тысяч IP-адресов, канал от 20 Мбит
r_y_n
На сайте с 16.08.2012
Offline
76
#10
юни:
Когентовская подсеть, тиер-1 оператор. Вряд ли это Гугл.

Спасибо я их правда сразу забанил так на всякий случай. Так как видно было по логам сервака что бот тупо ходит и сканит сайт(парсит)

Может есть еще информация поводу ip шниников что выше есть информация?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий