Вопрос про robots.txt

F
На сайте с 13.08.2004
Offline
255
519

При указании хоста правильно так

User-agent: *

Host: domain.ru

или

User-agent: *

Host: http://domain.ru

Продажа мотоциклов (http://www.moto-sale.ru/), скутеров и мопедов
S
На сайте с 11.01.2008
Offline
32
#1

без http:// , это ж хост :)

блог оптимизатора (http://seoplayer.ru)
kimberlit
На сайте с 13.03.2007
Offline
370
#2

А ещё лучше так:

User-agent: Yandex

Disallow:

Host: domain.ru

F
На сайте с 13.08.2004
Offline
255
#3
kimberlit:
А ещё лучше так:

User-agent: Yandex
Disallow:
Host: domain.ru

почему так лучше?

Алексей Барыкин
На сайте с 04.02.2008
Offline
272
#4
flucky:
почему так лучше?

В целях совместимости с роботами, которые не полностью следуют стандарту при обработке robots.txt, директиву 'Host' необходимо добавлять в группе, начинающейся с записи 'User-Agent', непосредственно после директив 'Disallow'('Allow'). Аргументом директивы 'Host' является доменное имя с номером порта (80 по умолчанию), отделенным двоеточием.

http://help.yandex.ru/webmaster/?id=996567#996574

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий