robots.txt - сомнения в синтаксисе...

DimaU
На сайте с 30.08.2005
Offline
180
1491

Просмотрев, поиском ya попавшиеся странички не нашел ответа...

Вот такой robots.txt:

User-agent: Yandex
Disallow: /DVD
Disallow: /?
Host: site.ru

User-agent: *
Disallow: /DVD
Disallow: /?

Вопросы:

1. Корректно ли? на какую группу директив пойдут роботы?

Вроде группа 2 (с User-agent: *) подходит и для Yandex?

А google-sitemaps-анализ кэшированного robots.txt-результаты разбора

пишет:

Host: site.ru Синтаксис не распознается
Что googlebot туда (User-agent: Yandex) пошел-то?

2. По косым чертам - как правильнее писать

"Disallow: /DVD" или "Disallow: /DVD/"

Имеется ли разница?

3. Строка "Disallow: /?" подойдет ли что-бы исключить из выдачи поиска (кэша) такую жуть (присутствует сейчас от стандартной формы поиска Ya для сайтов)?

ввв.site.ru/?strf=DVD

и т.п.

P2
На сайте с 16.09.2005
Offline
183
#1

Директива Host: - исключительно Яндекса

Вот так будет правильно: "Disallow: /DVD/" (если Вы хотите запретить к индексированию все файлы в этой папке

DimaU
На сайте с 30.08.2005
Offline
180
#2
Вот так будет правильно: "Disallow: /DVD/" (если Вы хотите запретить к индексированию все файлы в этой папке

Спасибо.

Правильно ли полагаю, "что Disallow: /DVD/" также запретит также индексировани всех подкаталогов внутри? (например, /DVD/2005/)

G
На сайте с 26.11.2003
Offline
93
#3
DimaU:
Спасибо.
Правильно ли полагаю, "что Disallow: /DVD/" также запретит также индексировани всех подкаталогов внутри? (например, /DVD/2005/)

Правильно.

Кузьменков Андрей
P2
На сайте с 16.09.2005
Offline
183
#4
DimaU:
Спасибо.
Правильно ли полагаю, "что Disallow: /DVD/" также запретит также индексировани всех подкаталогов внутри? (например, /DVD/2005/)

Да, именно так.

Bloody dude
На сайте с 16.03.2006
Offline
68
#5

Как по мне, то как раз наоборот:

/dvd/ запретит исключительно данную страницу

/dvd - со всеми вытекающими последствиями (все подкаталоги)

Не верите - проверьте гуглем

K
На сайте с 31.01.2001
Offline
737
#6

Проверяем.

Disallow

The value of this field specifies a partial URL that is not to be visited. This can be a full path, or a partial path; any URL that starts with this value will not be retrieved. For example, Disallow: /help disallows both /help.html and /help/index.html, whereas Disallow: /help/ would disallow /help/index.html but allow /help.html.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Megavolt
На сайте с 23.12.2005
Offline
179
#7

чтоб новую тему не начинать

User-Agent: Yandex

Disallow: /cgi-bin/

Disallow: /cnstats/

Host: www.site.info

User-Agent: *

Disallow: /cgi-bin/

Disallow: /cnstats/

http://www.yandex.ru/cgi-bin/test-robots на него сказал следущее

Запрещена индексация всех URL, начинающихся с указанных префиксов:

/

Индексация сервера site.info:80 запрещена полностью.

в чем глюк?

------------ добавлено

вводил без www. с www все правильно показывает.

проверил, без www тот же роботс отдается. не понимаю, как интерпретировать.

Иногда лучше жевать.... (С)
Bloody dude
На сайте с 16.03.2006
Offline
68
#8
Kost:
Проверяем.
Disallow
The value of this field specifies a partial URL that is not to be visited. This can be a full path, or a partial path; any URL that starts with this value will not be retrieved. For example, Disallow: /help disallows both /help.html and /help/index.html, whereas Disallow: /help/ would disallow /help/index.html but allow /help.html.

Дык я это ж и написал...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий