Вот подскажите, что в robots.txt не так

12 3
ИМХО
На сайте с 05.01.2008
Offline
42
1800

Есть robots.txt весьма стандартного вида

User-Agent: Yandex

Disallow:

Host: www.mysite.ru

User-Agent: *

Disallow:

Вопрос. Почему панель вебмастера находит ошибку такого вида

2: Disallow: Обнаружено пустое правило

Если в примерах сам яндекс указывает что Disallow: это тоже, что и Allow: /

Скажите, игнорировать ли это предупреждение?

С уважением, Константин.
NikitoZZ
На сайте с 04.04.2007
Offline
208
#1

поле Disallow не может быть пустым. Если закрываете папку то /papka/ если весь сайт то Disallow: /

fima32
На сайте с 12.01.2006
Offline
132
#2
ИМХО:

Скажите, игнорировать ли это предупреждение?

Если Вас сильно это беспокоит, то создайте у себя пустую папку и запретите ее в роботсе;)

S2
На сайте с 07.01.2008
Offline
611
#3

А почему не:

User-Agent: *

Disallow:

Host: www.mysite.ru

Не надо приписывать мне свои выводы, я имею ввиду только то, что написал. Лучшая партнёрка по футболкам/толстовкам (http://partnerka.kolorado.ru/?ref=1921540) Опрос: Проверить текст на уник - как? (/ru/forum/495885)
ИМХО
На сайте с 05.01.2008
Offline
42
#4

NikitoZZ, они же сами пишут, что может, и что оно трактуется как разрешение к индексации всего сайта. Об этом написано здесь.

fima32, хочется красивое решение.

Str256, потому что директиву Host понимает практически один Яндекс. И наличие ее в указаниях к исполнению теоретически может сбить с толку какой-нибудь малоизвестный и кривоватый поисковик.

NikitoZZ
На сайте с 04.04.2007
Offline
208
#5
Str256:
А почему не:
User-Agent: *
Disallow:
Host: www.mysite.ru

Потому-что поле Disallow: не может быть пустым! Правильно писать так:

User-agent: *

Disallow: /

Host: www.mysite.ru

ИМХО
На сайте с 05.01.2008
Offline
42
#6

NikitoZZ, так вы запретите к индексации весь сайт целиком. Это отнюдь не то чего я добиваюсь.

NikitoZZ
На сайте с 04.04.2007
Offline
208
#7
ИМХО:
NikitoZZ, так вы запретите к индексации весь сайт целиком. Это отнюдь не то чего я добиваюсь.

Allow: / а тут тогда папки для индексации

или

Disallow: /папка которую закрыть/

S2
На сайте с 07.01.2008
Offline
611
#8

ТС, имел ввиду, вот что:

Директивы Allow-Disallow без параметров.

Отсутствие параметров у директивы трактуется следующим образом:

User-agent: Yandex
Disallow: # тоже что и Allow: /

User-agent: Yandex
Allow: # тоже что и Disallow: /

Символ '#' предназначен для описания комментариев.

Можно Disallow: заменить на Allow: /

ИМХО
потому что директиву Host понимает практически один Яндекс. И наличие ее в указаниях к исполнению теоретически может сбить с толку какой-нибудь малоизвестный и кривоватый поисковик.

Не думаю. Пишите, как я указал выше. Проверить можно тут: http://www.yandex.ru/cgi-bin/test-robots

RD
На сайте с 06.07.2007
Offline
52
#9
ИМХО:
Есть robots.txt весьма стандартного вида
...

Вопрос. Почему панель вебмастера находит ошибку такого вида

потому что она глючит

нормальный роботс, у меня на многих сайтах такой

ps: смешно видеть "советы", особенно с "Disallow: /"

[Удален]
#10

ИМХО, а что вас так смутило? При таком robots.txt Яндекс пишет "Не найдено ни одного подходящего правила", т.е. нет ни одного правила запрещающего какие-либо разделы сайта к индексации.

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий