Склейка доменов для Яндекса с помощью robot.txt

E
На сайте с 06.04.2009
Offline
0
671

Посоветуйте, пожалуйста - я в этом полный чайник. Прикрепила к домену третьего уровня домен в зоне Ру. Теперь хочу склеить оба сайта с помощью robot.txt, чтобы склеились показатели ТИЦ. Знаю, что над прописать в нем основной домен - Host: www.newsite.ru - т. е. мой новый домен.

Вот только не знаю, в какой строке это сделать. В Яндекс-FAQ дан такой пример:

User-Agent: *

Disallow:

Host: www.myhost.ru

Однако мой файл robot.txt сейчас выглядит иначе:

User-agent: *

Disallow: /_admin/

User-agent: Yandex

Crawl-delay: 5

Как я поняла, * - это остальные поисковики, Disallow: - запрет на индексацию определенной части сайта (админки), а вот что такое Crawl-delay: - не знаю...

Подскажите, пожалуйста:

- где надо прописать host: www.newsite.ru, чттобы на него отреагировал только Яндекс?

- не надо ли и для Яндекса прописать Disallow: /_admin/ ?

- что такое Crawl-delay: 5 ?

В идеале - хотелось бы подсказки, как должен выглядеть в готовом виде мой файл robot.txt.

S2
На сайте с 07.01.2008
Offline
611
#1

1. host - понимает только Яндекс, поэтому писать в его блоке.

2. Лучше написать, хотя он наверно и так это увидит.

3. Снижает нагрузку на сервер, когда поисковый бот будет индексировать страницы.

Так например:

User-agent: Yandex

Disallow: /_admin/

Host: www.newsite.ru

User-agent: *

Disallow: /_admin/

Crawl-delay: 5

http://help.yandex.ru/webmaster/?id=996567#1022359

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)
E
На сайте с 06.04.2009
Offline
0
#2

Str256, спасибо!

Пошла переделывать :)

SAlex
На сайте с 27.07.2008
Offline
409
#3
Exlibris:
как должен выглядеть в готовом виде мой файл robot.txt.

Проверьте название файла. Вы везде пишете robot.txt.

Такой файл для ПС неизвестен. Правильное название с буквой S на конце:

robots.txt

E
На сайте с 06.04.2009
Offline
0
#4
SAlex:
Проверьте название файла. Вы везде пишете robot.txt.
Такой файл для ПС неизвестен. Правильное название с буквой S на конце:
robots.txt

SAlex, спасибо за бдительность - на самом деле сам файл у меня так и называется - robots.txt, это здесь я сделала ошибку - скопировала и вставила название без последней буквы :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий