Про поисковых роботов !!!

lemes
На сайте с 02.06.2005
Offline
22
901

Возник вопрос можно ли как то без изучения лог файлов (есть статистика ip адресов)вычислить робота например по ip??

Все может быть и быть все может и все, что может - может быть, но одного лишь быть не может - того, чего не может быть.
K
На сайте с 31.01.2001
Offline
737
#1

Встроить статистику в сайт, например cnstats.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
lemes
На сайте с 02.06.2005
Offline
22
#2
Как писал Kost
Встроить статистику в сайт, например cnstats.

у меня есть статистика нужно быстро найти роботов среди кучи айпишников !!!!

K
На сайте с 31.01.2001
Offline
737
#3

А User-Agent-ы ваша статистика показывает? По ним гораздо проще.

N
На сайте с 20.04.2005
Offline
53
#4

лучше напиши скрипт.

который следит за роботами.

Я такой скрипт написал для своего сайта он умеет:

запоминает обращения к robots.txt

ведет базу ip поисковиков.

если кто-то говорит что он Yandex/1.01.001 (compatible; Win16; I)(аналогично rambler,...) а в базе ip нет то скрипт пробивает по ip кто это и пишет письмо на мыло и спрашивает дабавить ip в базу или нет.

Естественно записывает какие страницы какой робот съел, его ip, дату захода.

Если нужен скрипт могу подать. niklab@yandex.ru

кто не рискует - работает на того кто рискует
uacommerce
На сайте с 23.04.2005
Offline
33
#5
Как писал lemes
Возник вопрос можно ли как то без изучения лог файлов (есть статистика ip адресов)вычислить робота например по ip??

Если такое подходит, то пользуйся на здоровье🚬

С Уважением

uacommerce

Чтоб у Вас всегда, благодаря чему, не смотря ни на что.
lemes
На сайте с 02.06.2005
Offline
22
#6
Как писал uacommerce


Если такое подходит, то пользуйся на здоровье🚬

С Уважением
uacommerce

Cпасибо большое за помощь !!!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий