Sitemap - как вписать в robots.txt?

1 23
[Удален]
#21

В итоге сделал вот так:

User-agent: *
Disallow: /admin/
Disallow: /piwik/
Disallow: /feedback/
Disallow: *.swf
Host: site.com
Sitemap: http://site.com/sitemap.xml

При проверке в Яндексе всё нормально.

В Гугле (Crawler access) тоже всё вроде нормально.

А вот в других проверялках ругается на *.swf и Host: site.com.

The WishMaster
На сайте с 29.09.2005
Offline
2542
#22
Ктенсдорф:
А вот в других проверялках ругается на *.swf и Host: site.com.

Это проблема других проверялок, похоже.

Кому старенького креативного копирайтера? Тематики - туризм, СЕО, творчество, кулинария, шизотерика :)
WebAlt
На сайте с 02.12.2007
Offline
266
#23
Ктенсдорф:
Да, я в Гугле и Яндексе добавил sitemap.
Но подумал, что на всякий пожарный случай нужно и в robots.txt прописать.

А смысл?

Host, тоже в ЯВМ добавь, для указания с www или без директива ненужна больше, нужна только для других сайтов-зеркал.

1 23

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий