директивы robots.txt

P
На сайте с 26.09.2010
Offline
1
685

Подскажите, все ли поисковики нормально воспринимают синтаксис предложенный в яндыксе касательно allow?

User-agent: Yandex

Allow: /cgi-bin

Disallow: /

# запрещает скачивать все, кроме страниц

# начинающихся с '/cgi-bin'

M
На сайте с 26.10.2010
Offline
0
#1

Я, конечно, извиняюсь, но строка

Disallow: /

запрещает весь сайт к индексации, по-моему.

Я новичок, простите, если глупость написала. Вопрос по robots.txt для меня тоже немаловажен.

P
На сайте с 26.09.2010
Offline
1
#2

рекомендую к прочтению http://help.yandex.ru/webmaster/?id=996567

M
На сайте с 26.10.2010
Offline
0
#3

Благодарю, я это читала.

Чтобы разрешить доступ робота к некоторым частям сайта или сайту целиком, используйте директиву 'Allow'. Примеры:

User-agent: Yandex
Allow: /cgi-bin
Disallow: /
# запрещает скачивать все, кроме страниц
# начинающихся с '/cgi-bin'

И все же, эта запись означает, как я и говорила, разрешение на скачивание только страниц, начинающихся с /cgi-bin. Все остальное под запретом. Мне не понятно: зачем запрещать весь сайт к индексации? Или Вы просто скопировали запись и сомневаетесь в том, что правильно ли Яндекс пишет и понимает синтаксис собственной директивы Allow: /

Или Вы спрашиваете будет ли работать, например, такая запись:

User-agent: Googlebot
Allow: /cgi-bin
Disallow: /
P
На сайте с 26.09.2010
Offline
1
#4

Меня интересует именно директива allow и именно для других поисковиков, с яндексом всё понятно.

Shapranov Pavel
На сайте с 27.08.2007
Offline
304
#5
priveteke:
Меня интересует именно директива allow и именно для других поисковиков, с яндексом всё понятно.

Нормально воспринимают, есть ведь стандарты.

K
На сайте с 21.09.2010
Offline
1
#6
priveteke:
Подскажите, все ли поисковики нормально воспринимают синтаксис предложенный в яндыксе касательно allow?

User-agent: Yandex
Allow: /cgi-bin
Disallow: /
# запрещает скачивать все, кроме страниц
# начинающихся с '/cgi-bin'

Если говорить о конкретно Вашем приведенном примере, то нужно отметить, что Вы явно указали, что данная директива относится к роботу Яндекса (User-agent: Yandex).

Если поставить так: User-agent: * то все поисковики воспримут строку Allow: вполне нормально

P
На сайте с 26.09.2010
Offline
1
#7

Да, спасибо, это пример с яндекса ) вопрос был задан потому что, на сколько я понял, директива allow была введена не так давно и возможно отсталые ПС не ввели её ещё )

[Удален]
#8
priveteke:
Да, спасибо, это пример с яндекса ) вопрос был задан потому что, на сколько я понял, директива allow была введена не так давно и возможно отсталые ПС не ввели её ещё )

А зачем Вам отсталые ПС? Если не секрет конечно...

P
На сайте с 26.09.2010
Offline
1
#9

этот вопрос нужно задать тем кто ими пользуется )

antonygold
На сайте с 16.08.2007
Offline
112
#10

Сейчас уже googlebot точно понимает эту команду! Вот ссылка: ссылка.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий