Роботс.тхт

Kislov
На сайте с 29.04.2006
Offline
185
516

Составил роботс следующего содержания:

User-agent: *

Disallow:

Host: catal0g.com

Сервис http://www.mrpower.ru/seo/index.php выдал, что сайт запрещён к индексации полностью.

Я правильно составил или допустил где-то ошибку?

Bloody dude
На сайте с 16.03.2006
Offline
68
#1
Kislov:

User-agent: *
Disallow:
Host: catal0g.com

Директиву хост понимает только Яндекс

Сделайте так:

User-agent: *

Disallow:

User-agent: Yandex

Disallow:

Host: catal0g.com

Если запрещать нечего, следовательно, "общий" блок не нужен

П.С. Внимательно посмотрите, что именно запрещено к индексации. Прописывая директиву хост, Вы запрещаете индексацию всех алиасов/зеркал.

cims
На сайте с 15.11.2005
Offline
60
#2

Да проверьте у яндекса:

http://www.yandex.ru/cgi-bin/test-robots?host=catal0g.com

Oxibest
На сайте с 06.05.2006
Offline
37
#3
Kislov:


Сервис http://www.mrpower.ru/seo/index.php выдал, что сайт запрещён к индексации полностью.
Я правильно составил или допустил где-то ошибку?

Сервса по этому адресу нет. Там какая-то студия музыки. Отредактируйте адрес на http://www.technoinfo.info/seo/

[Удален]
#4

Kislov, а вы проверяйте не во всяких непонятных сервисах, которые неизвестно как работают, а на самом Яндексе.

DM
На сайте с 15.08.2005
Offline
43
#5

Bloody dude, удачный совет!!! Спасибо!

Насколько я понял, если "общий" блок всеже запрещает определенные страницы для всех роботов, то "User-agent: Yandex...." нужно помещать вначале.

Иначе получиться:

User-agent: *

Disallow: str1.php

User-agent: *

Disallow: str2.php

User-agent: Yandex

Disallow:

Host: www.site.ru

-Яндексу все можно :)

Поставив овцу на задние ноги вы не сделаете из нее человека.
Но поставив в это положение отару овец, вы сможете получить толпу людей. (М. Бирбом)
Bloody dude
На сайте с 16.03.2006
Offline
68
#6
DrMisha:
"User-agent: Yandex...." нужно помещать вначале.
Иначе получиться:
User-agent: *
Disallow: str1.php
User-agent: *
Disallow: str2.php
User-agent: Yandex
Disallow:
Host: www.site.ru

Этот вариант противоречит стандарту. То есть, в таком виде он теоретически (не знаю, как будет на практике) понятен ботам, но слишком многоэтажен должно быть так:

User-agent: *

Disallow: str1.php

Disallow: str2.php

User-agent: Yandex

Disallow: str1.php

Disallow: str2.php

Host: www.site.ru

Или Яндекс сверху - не суть важно. Смысл в том, что в файле прописывается несколько отдельных блоков - для всех ботов и для "особо одаренных"...

Kislov
На сайте с 29.04.2006
Offline
185
#7

Вообще-то будет выглядеть так:

User-agent: *

Disallow: str1.php

Disallow: str2.php

User-agent: Yandex

Disallow:

Host: www.site.ru

Яндексу всё можно..

Всем спасибо за советы и помощь

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий