Посещают ли поисковики каталоги?

Kosmo
На сайте с 19.11.2003
Offline
58
1032

Посещают ли поисковики каталоги?

Ну например заходит ли Рамблер на yaca или Yandex в top100 и учитываются ли при этом как то ссылки?

Понятно что Р и Y это 2 крупных поисковика, А как обстоят дела с каталогами рангом пониже?

Яндекс, яндекс ты когда будешь индексировать меня
NL
На сайте с 29.01.2003
Offline
212
#1
Посещают ли поисковики каталоги?

Посмотрите у интересующего Вас каталога robots.txt и сразу узнаете. Вот, к примеру, содержимое http://yaca.yandex.ru/robots.txt:


User-Agent: yandex
Disallow: /yaca/
Disallow: /yandsearch
Disallow: /yandpage
Disallow: /norobot
Disallow: /yca

User-Agent: *
Disallow: /yaca/
Disallow: /yandsearch
Disallow: /yandpage
Disallow: /norobot
Disallow: /yca/geo
Disallow: /yca/src
Disallow: /yca/addr
Disallow: /yca/sect
Disallow: /yca/genre
Disallow: /yca/spos
Disallow: /yca/onl
Disallow: /yca/trg
Disallow: /yca/sft
Disallow: /yca/xxx
Disallow: /yca/synt
Disallow: /yca/grp
Disallow: /yca/ungrp
Disallow: /yca/tungrp
Disallow: /yca/time
Disallow: /yca/alf
Disallow: /yca/cy

Теперь заходите в в любую рубрику, смотрите на ее URL и делаете выводы.

Cossack
На сайте с 17.12.2002
Offline
279
#2
Прощание славянки... (http://www.youtube.com/watch?v=0xf9lFMWfKw)
K
На сайте с 31.01.2001
Offline
737
#3

Вроде одно другому не противоречит, т.е. /yca/cat/ разрешено индексировать всем поисковикам, кроме самого Яндекса.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
D
На сайте с 04.06.2004
Offline
0
#4

Kosmo, посещают и активно.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий