Посмотрите robots плиз

TN
На сайте с 10.02.2008
Offline
131
324

Че-то запутался совсем. Нужно чтобы индексировали только Yandex, Google, Rambler - остальные поисковики лишние.

Такой вариант правильный?


User-agent: *
Disallow: /

User-agent: Yandex
Disallow:
Host: www.site.ru

User-agent: googlebot
Disallow:

User-agent: StackRambler
Disallow:
kimberlit
На сайте с 13.03.2007
Offline
370
#1

Я бы для всех ботов (*) секцию сделал бы последней ...

TN
На сайте с 10.02.2008
Offline
131
#2
kimberlit:
Я бы для всех ботов (*) секцию сделал бы последней ...

Спасибо, именно с первой секцией меня и затсупорило :)

DyaDya
На сайте с 11.04.2007
Offline
147
#3

Да вроде нормально все и в вашем случае. Хоть первой, хоть последней будет *.

Если яндекс, рамблер и гугл, хоть слушаются директив роботса, то многие другие поисковики на него с легкостью забивают, поэтому возымеет ли это тот особенный эффект, которого вы так желаете добиться, трудно сказать.

Выбирайте качественный хостинг (http://vashmaster.ru/informaciya/o_poleznyh_programmah/news83.php) и продвигайте сайты в СЕОПУЛЬТ (http://seopult.ru/ref.php?ref=72b5ed9561fe66a1). А на «SAPE» я в обиде :) Не упрекайте за очепятки, пишу вслепую (http://ergosolo.ru/) и также делаю сайты (http://www.vashmaster.ru/) ;)
TN
На сайте с 10.02.2008
Offline
131
#4

Так может тогда прописать для каждого поисковика отдельно директиву? Уж очень не хочется пускать поисковики показывающие беки.

S2
На сайте с 07.01.2008
Offline
611
#5

Робот Yahoo может не подчинятся командам файла robots.txt и просто игнорировать его,

если запрещенные страницы сайта имеют большое количество входящих ссылок или большие и

уважаемые поисковиком сайты ссылаются на запрещенные страницы. См.

Вот тут решается ваша проблема(читать оба топика):

/ru/forum/183414

/ru/forum/151592

Ещё по теме:

/ru/forum/170334

/ru/forum/132242

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий