Правильный robots.txt?

12
dlyanachalas
На сайте с 15.09.2006
Offline
693
1130

Пожалуйста, проверьте robots.txt, чтобы дров не наломать :)


User-agent: *
Disallow: /declareerror/
Disallow: /addtopic/
Disallow: /sendmail/

User-agent: Yandex
Host: site.ru

Эффект жду такой: для всех поисковых систем закрываются папки declareerror, addtopic, sendmail, и для Яндекса указываю, что все ссылки на зеркала site.ru (типа www.site.ru) должны на самом деле ссылаться на site.ru.

Всё ли правильно сделано?

Спасибо!!

T
На сайте с 11.08.2005
Offline
181
#1

По-моему этот robots.txt следует трактовать так:

Для всех роботов кроме Яндекcа запрет на индексацию: /declareerror/, /addtopic/, /sendmail/.

Для Яндекса основний хост site.ru.

Тут можно "спросить" у самого Яндекса как он видит robots.txt: http://www.yandex.ru/cgi-bin/test-robots?host=www.site.ru

S
На сайте с 28.10.2005
Offline
318
#2

Так оно правильней будет..


User-agent: *
Disallow: /declareerror/
Disallow: /addtopic/
Disallow: /sendmail/

User-agent: Yandex
Disallow: /declareerror/
Disallow: /addtopic/
Disallow: /sendmail/
Host: site.ru
Данил
На сайте с 17.01.2006
Offline
153
#3

User-agent: *
Disallow: /declareerror/
Disallow: /addtopic/
Disallow: /sendmail/
Host: site.ru

Лучше так 🚬

Покупаю сайты (/ru/forum/394337). Заработай себе на екро — Сапа (http://www.sape.ru/r.0d0e35f6a7.php). Для продвжиения быстро и на автомате (http://www.seowizard.ru/r.0d0e35f6a7.php)!
K. Ermakov
На сайте с 10.12.2004
Offline
328
#4
Данил:
Лучше так

Нет.

Лучше для Яндекса нарисовать отдельную секцию. Ибо Host - личное изобретение Яндекса, и как знать, что про него (про Host) подумают боты, подходящие под маску *

С уважением, Константин Ермаков, absite.ru: онлайн кроссворды (http://absite.ru/); searchsuggest.ru: поисковые подсказки доставляют (http://searchsuggest.ru/).
dlyanachalas
На сайте с 15.09.2006
Offline
693
#5
semenov:
Так оно правильней будет..

Спасибо! Я так и сделаю!

Всем спасибо за помощь!

fireone
На сайте с 07.07.2006
Offline
127
#6
K. Ermakov:
Нет.
Лучше для Яндекса нарисовать отдельную секцию. Ибо Host - личное изобретение Яндекса, и как знать, что про него (про Host) подумают боты, подходящие под маску *

ИМХо ничего они про директиву не подумают - просто игнорируют ее и все.

2 топикстартер опять же имхо так как вы сделали первоначально тоже правильно.

Нужны люди: пом-ик оптимизатора () и оптимизатор () Вливайтесь в сильнейшую команду страны ;) 89057335033, Александр Шокуров;
K. Ermakov
На сайте с 10.12.2004
Offline
328
#7
fireone:
ничего они про директиву не подумают - просто игнорируют ее и все

Чаще всего, да.

Хуже, если проигнорируют всю секцию.

fireone
На сайте с 07.07.2006
Offline
127
#8
K. Ermakov:
Хуже, если проигнорируют всю секцию.

Не думаю, что это произйодет :-)

В любом случае robots.txt составленный топикстартером правильный :-)

dlyanachalas
На сайте с 15.09.2006
Offline
693
#9
fireone:
Не думаю, что это произйодет :-)
В любом случае robots.txt составленный топикстартером правильный :-)

Спасибо! :) Но в любом случае я уже выложил вариант, предложенный semenov'ым :) Думаю, так надёжнее будет... В http://www.yandex.ru/cgi-bin/test-robots?host=www.site.ru полный порядок. Яндекс пишет правильный список закрытых папок.

dlyanachalas
На сайте с 15.09.2006
Offline
693
#10

Интересно, что подумал Google по поводу данного robots.txt:

Результаты разбора
Host: site.ru Синтаксис не распознается

Странно... Почему он стал читать эту секцию?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий