Яндекс. Что за робот?

buraxxx
На сайте с 15.09.2005
Offline
69
517

Что за робот Яндекса приходит с ip 213.180.206.248 ?

Приходит ровно раз в месяц, спустя 30 дней.

Забирает только robots.txt и главную страницу сайта "/"

Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#1

Роботов Яндекса лучше распознавать по User-agent.

buraxxx
На сайте с 15.09.2005
Offline
69
#2

213.180.206.248 - - [12/Dec/2005:18:10:07 +0300] "GET /robots.txt HTTP/1.1" 200 57 "-" "Yandex/1.01.001 (compatible; Win16; I)"

213.180.206.248 - - [12/Dec/2005:18:10:09 +0300] "GET / HTTP/1.1" 200 17903 "-" "Yandex/1.01.001 (compatible; Win16; I)"

Вот такие логи оставляет...

JR
На сайте с 22.03.2005
Offline
263
#3
Sergey Petrenko
На сайте с 23.10.2000
Offline
482
#4

Обычный индексатор, короче.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий