robots.txt с чем его едят?

bakytbek
На сайте с 07.08.2007
Offline
97
659

Доброе время суток!

Я новичек и у меня вопрос по robots.txt

User-agent: *

Disallow:

User-agent: *

Disallow: /

User-agent: Yandex

Disallow:

Host: www.имя_сайта.ru

Дайте пожалуйста конкретные и детальные определения на каждые из них. Что означает (*) - звездочка, (/) - слеш, Host - для чего он нужен?

Прошу ссылок на другие сайты не давать, только ваши личные опыты.

yanus
На сайте с 21.01.2009
Offline
348
#1
bakytbek:

Прошу ссылок на другие сайты не давать, только ваши личные опыты.

рискну все-таки дать ссылку

или вы предпочитайте рерайт?

сейчас прийдут модераторы и начнуть раздавать "ататашечки"

Volkpanda
На сайте с 25.09.2006
Offline
147
#2
bakytbek:
Доброе время суток!
Я новичек и у меня вопрос по robots.txt

User-agent: *
Disallow:

User-agent: *
Disallow: /

User-agent: Yandex
Disallow:
Host: www.имя_сайта.ru

Дайте пожалуйста конкретные и детальные определения на каждые из них. Что означает (*) - звездочка, (/) - слеш, Host - для чего он нужен?
Прошу ссылок на другие сайты не давать, только ваши личные опыты.

туляй это в роботс

User-Agent: *

Disallow:

Host: www.myhost.ru

где * - все боты

слэша нету)) так что живем...

wizzer
На сайте с 23.02.2009
Offline
152
#3

всё это лежит на поверхности. в мануалах, которые должен читать любой вебмастер.

//wizzer Проверенный временем опен впн сервис. (http://openvpn.cc) Перестань переживать за свою анонимность.
Delarante
На сайте с 13.07.2008
Offline
69
#4

Volkpanda разрешите чуток подправлю?

Я бы рекомендовал всё же host указывать именно для робота Яндекса, ибо другие его всё равно не понимают. Для других прописываем в этом месте sitemap. Так будет корректнее. Короче получается так:

User-agent: *

Disallow:

Sitemap: http://www.имя_сайта.ru/sitemap.xml

User-agent: Yandex

Disallow:

Host: www.имя_сайта.ru

iren K
На сайте с 28.12.2008
Offline
222
#5
bakytbek:
Доброе время суток!
Я новичек и у меня вопрос по robots.txt

User-agent: *
Disallow:

User-agent: *
Disallow: /

User-agent: Yandex
Disallow:
Host: www.имя_сайта.ru

Дайте пожалуйста конкретные и детальные определения на каждые из них. Что означает (*) - звездочка, (/) - слеш, Host - для чего он нужен?
Прошу ссылок на другие сайты не давать, только ваши личные опыты.

(*) - для всех ботов

(/) - все директории от корня

Host - указание домена для ботов

c уважением Iren
[Удален]
#6
Delarante:

Я бы рекомендовал всё же host указывать именно для робота Яндекса, ибо другие его всё равно не понимают.

Можно. Но смысла нет.

bakytbek
На сайте с 07.08.2007
Offline
97
#7
Delarante:
Volkpanda разрешите чуток подправлю?
Я бы рекомендовал всё же host указывать именно для робота Яндекса, ибо другие его всё равно не понимают. Для других прописываем в этом месте sitemap. Так будет корректнее. Короче получается так:

User-agent: *
Disallow:
Sitemap: http://www.имя_сайта.ru/sitemap.xml

User-agent: Yandex
Disallow:
Host: www.имя_сайта.ru

Спасибо Volkpanda

Огромный респект, предельно понятно

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий