Вопрос по robots.txt

12
L
На сайте с 28.02.2006
Offline
132
703

Собственно хотел ссылку купить, а у человека в robots.txt стоит такое:

User-agent: *


host: www.domain.ru

Disallow: /?

меня этот "?" смутил, на robotstxt.org.ru про такую комбинацию ничего не нашел, да и на этом форуме тоже..

Это значит, что запрещены к индексации все ссылки начинающиеся с "?" или что-то еще?

Anaxa
На сайте с 20.12.2006
Offline
123
#1

Вообще ситнаксис не правильный. Вот ссылка роботс глазами яндекса http://www.yandex.ru/cgi-bin/test-robots и еще одна ссылка про роботс http://www.softdevelop.ru/articles3.html

Concept
На сайте с 02.03.2007
Offline
70
#2

Это значит что

"Запрещена индексация всех URL, начинающихся с указанных префиксов:

/?"

судя по http://www.yandex.ru/cgi-bin/test-robots

ТС показал урл сайта. всё ок. сайт известный, индексируется нормально.

С уважением, Сергей
Каширин
На сайте с 03.01.2004
Offline
1031
#3
Anaxa:
Вообще ситнаксис не правильный.

Почему же неправильный? Запрещены все url по маске - например: www.site.ru/?id=1234. Что, в принципе, разумно - прикрывает дубли, верный URL такой: www.site.ru/index.php?id=1234

Anaxa
На сайте с 20.12.2006
Offline
123
#4

В спецификации

User-agent: *

Disallow: /?

host: www.domain.ru

А у товарища наоборот.

User-agent: *

host: www.domain.ru

Disallow: /?

Я придерживаюсь как написано в спецификации. Или я не прав?

Каширин
На сайте с 03.01.2004
Offline
1031
#5

ТС ведь писал про знак вопроса, верно? А насчет последовательности директив...

Директива Host противоречит стандарту robots.txt поэтому блок с ней может игнорироваться другими роботами. В частности, робот Google игнорирует такие блоки.

Поэтому - "а вы, друзья, как ни садитесь" :)

Anaxa
На сайте с 20.12.2006
Offline
123
#6

Получается, что по очередность директив не нужно соблюдать? Или как?

R
На сайте с 03.03.2007
Offline
80
#7
Anaxa:
Получается, что по очередность директив не нужно соблюдать? Или как?

Обязы! Директивы нужно соблюдать.

L
На сайте с 28.02.2006
Offline
132
#8

но ведь Яндекс ясно сказал - запрещена индексация, значит сайт индексировать не будет, так?

Может он "?" не понял и поэтому решил, что индексировать не нужно?

блин, там ПР 5, купить охота, но... попробую, если через месяц в индексе не будет, значит не угадал

Concept
На сайте с 02.03.2007
Offline
70
#9
Leos:
но ведь Яндекс ясно сказал - запрещена индексация, значит сайт индексировать не будет, так?
Может он "?" не понял и поэтому решил, что индексировать не нужно?
блин, там ПР 5, купить охота, но... попробую, если через месяц в индексе не будет, значит не угадал

ТС!

Прочитайте ответы и особенно ответ Каширина.

Сайт индексируется! Всё нормально будет. Покупайте.

Яндекс не понял "?"? :) Да вроде он понятливый...

L
На сайте с 28.02.2006
Offline
132
#10

Concept, купил конечно, для того вопрос и задавал. Но сомнения остались.

Вы видели урл, я проверил его, ответ был " Индексация сервера domain.ru:80 запрещена полностью."

Если не забуду - в этом топике через месяц отпишу - проиндексировал кто-нибудь такую ссылку или нет.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий