Хм ... что за боты

FM
На сайте с 21.04.2004
Offline
125
689

da-out.yandex.ru Yandex/1.01.001 (compatible; Win16; H) /217.html

izhe-out.yandex.ru Yandex/1.01.001 (compatible; Win16; H) /279.html

хочется услышать коментарии, что за хосты такие странные ?

это он что выкидывает страницы так или что такое ?

LM
На сайте с 30.11.2001
Offline
71
LiM
#1

Это робот-зеркальщик Яндекса. В индексной базе Яндекса были обнаруженные страницы, очень похожие на те, куда он обращается. Робот проверяет гипотезу о том, что страницы являются "зеркалами".

Подробнее см. http://www.seoman.ru/FAQ/article032.html

С уважением, Андрей Хроленок. Загляни в FAQ по оптимизации и продвижению сайтов (http://www.seoman.ru/FAQ/) Анализатор страниц сайтов (http://www.seoman.ru/analizer/)
FM
На сайте с 21.04.2004
Offline
125
#2

но как он может обращаться к этим страницам, если их нету в базе?

и он обращется к страницам которые возможны зеркало других страниц?

а как робот определяет это зеркало или то зеркало ?

FM
На сайте с 21.04.2004
Offline
125
#3

просто не могу понять, почему яндекс считает главный домен зеркалом, при этом отлично индексирует поддомены, но на подоменах не весь контент ?

да и как бы первую страницу проиндексировать хотелось бы

K
На сайте с 31.01.2001
Offline
737
#4

Кстати, вот это http://webmaster.yandex.ru/faq.xml уже читали?

просто не могу понять, почему яндекс считает главный домен зеркалом

Директиву Host не пробовали в robots.txt ?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
LM
На сайте с 30.11.2001
Offline
71
LiM
#5
Как писал FreeMarket
но как он может обращаться к этим страницам, если их нету в базе?
и он обращется к страницам которые возможны зеркало других страниц?

а как робот определяет это зеркало или то зеркало ?

Во-первых, я не говорил "зеркала" - я говорил "гипотеза о том, что страницы являются "зеркалами". Это важно!

Робот, анализируя информацию в индексной базе, находит очень похожие страницы на разных сайтах. На основе этой информации он может предположить, что страницы или сайты вцелом являются зеркалами. То, что Вы видите в логах - обращения робота для проверки гипотезы. При этом он может пытаться обращаться к несуществующим страницам - это официально подтвержали сотрудники Яндекса. Такое происходит только при условии, если гипотеза выдвинута относительно всего сайта...

Алгоритм определения зеркал Яндексом, как всегда, не разглашается по понятным причинам.

FM
На сайте с 21.04.2004
Offline
125
#6
Как писал Kost
Кстати, вот это http://webmaster.yandex.ru/faq.xml уже читали?

Директиву Host не пробовали в robots.txt ?

этого не пробовал

пример можно ?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий