правильный ли robots

Brucekiev
На сайте с 30.11.2007
Offline
171
558

написал такой файл robots:

Sitemap: http://www.viki.kiev.ua/sitemap.xml

User-agent: Yandex

Host: www.viki.kiev.ua

User-agent: *

Disallow:

Мне предложили удалить первую строчку(каторая для google и sitemap). Как Вы думаете так как есть - имеет право на жизнь или только на существование в просторах интернета.

Возможно мне сказали удалить из-за того что запись

< Sitemap: http://www.viki.kiev.ua/sitemap.xml > "конфликтует" с записью

< User-agent: Yandex

Host: www.viki.kiev.ua

User-agent: *

Disallow: > в одном файле.. Можно оставить как есть или нет?! Спасибо.

Дмитрий
На сайте с 23.08.2006
Offline
222
#1

Вроде эта строчка не нужна, можно в панели web-мастера указать местоположение sitemap.

По-моему правильнее было бы так:

User-agent: googlebot
Disallow:
Sitemap: http://www.viki.kiev.ua/sitemap.xml

User-agent: Yandex
Disallow:
Host: www.viki.kiev.ua

User-agent: *
Disallow:
Разрабатываю и автоматизирую на php http://jonnyb.ru/
Brucekiev
На сайте с 30.11.2007
Offline
171
#2
JonnyB:
Вроде эта строчка не нужна, можно в панели web-мастера указать местоположение sitemap.
По-моему правильнее было бы так:

спасибо! прислушаюсь к вашему мнению..

Ayavryk
На сайте с 11.10.2003
Offline
209
#3
Тынгыр, мынгыр, комсомол (http://erum.ru). Ехари, ехари, (жалобно) аяврик. /народная тунгусская песня/
Kirik
На сайте с 13.04.2006
Offline
266
#4

Кажеться эта часть не правильна.

JonnyB:

User-agent: googlebot
Disallow:
Sitemap: http://www.viki.kiev.ua/sitemap.xml

По всем правилам нужно так:


User-agent: Yandex
Host: www.viki.kiev.ua

User-agent: *
Disallow:

Все, больше ничего если хотите чтобы все страницы сайта индексировались.

Если хотите что-то запретить к индексации, нужно:


User-agent: Yandex
Host: www.viki.kiev.ua

User-agent: *
Disallow: /bla/

где:

* - все поисковики, если поставить Yandex - запрет только для Yandex, если поставить googlebot - запрет только для гугла

/bla/ - папка, которая запрещается, также можно указывать файлы, группы...

~~ Продвижение сайтов (https://kirik.pro/) ~~ PRPosting.com (https://prposting.com) - ссылки под бурж, 100+ стран, 45000 доноров, партнерка с 5% от трат ~~ Копирайтинг и рерайтинг (https://wordfactory.ua/)
kimberlit
На сайте с 13.03.2007
Offline
370
#5
Kirik:
User-agent: Yandex
Host: www.viki.kiev.ua

Тогда уж Disallow не нужно пропускать ...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий