Про роботс.txt

Antikrik
На сайте с 08.04.2009
Offline
55
411

Есть такой роботс:

User-agent: *

Disallow:
Sitemap: http://www.site.ru/sitemap.xml
Host: site.ru

Я так понимаю, он не правильно составлен... Или Яндекс и такой схавает?

kimberlit
На сайте с 13.03.2007
Offline
370
#1

User-agent: Yandex

Disallow:
Host: site.ru
Sitemap: http://www.site.ru/sitemap.xml

User-agent: *
Disallow:
Sitemap: http://www.site.ru/sitemap.xml
Nick84
На сайте с 10.05.2006
Offline
55
#2

нужно так:


User-agent: *
Disallow:

User-agent: Yandex
Disallow:
Sitemap: http://www.site.ru/sitemap.xml
Host: site.ru
mast88
На сайте с 12.09.2009
Offline
6
#3

Удалить роботс и направить карту сайта в панели яндекса.

Кстати название sitemap должно быть с большой буквы, если хотите, чтобы остальные поисковики автоматом ее нашли.

Клуб любителей железной дороги и поездов (http://trainclub.ru)
Antikrik
На сайте с 08.04.2009
Offline
55
#4

Я не правильно задал вопрос ) Я имею ввиду, что карта сайта указана по адресу с www, а хост прописан без www. Правильно ли это?

kimberlit
На сайте с 13.03.2007
Offline
370
#5
Antikrik:
Я имею ввиду, что карта сайта указана по адресу с www, а хост прописан без www. Правильно ли это?

А в чём проблема сделать одинаково? Или лень блокнот открыть?

Antikrik
На сайте с 08.04.2009
Offline
55
#6

Просто с человеком поспорили :) Я говорю, что нужно в роботсе указывать одинаковый адрес, а он говорит - что можно и так и так.

Это вообще принципиально для ботов?

JD
На сайте с 08.12.2008
Offline
471
#7

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий