Правильно ли составлен robots.txt

12
V
На сайте с 26.01.2011
Offline
55
775

Подскажите, правильно ли составлен http://www.makisalon.ru/robots.txt

Задача: запретить поисковикам от индексации все, кроме страниц находящихся в sitemap.xml

kimberlit
На сайте с 13.03.2007
Offline
370
#1

Предлагаешь самим лопатить твой сайтмап и искать что не закрыл?

V
На сайте с 26.01.2011
Offline
55
#2

Нет, вопрос был правильно ли составлен robots.txt? Я хочу, чтобы робот индексировал только те страницы, которые находятся в sitemap.xml и никакие другие. Sitemap лопатить я не просил, вопрос правильно ли я прописал инструкцию для робота в robots.txt?

G
На сайте с 08.03.2008
Offline
51
#3
Valorous:
вопрос правильно ли я прописал инструкцию для робота в robots.txt?

там проверяйте http://webmaster.yandex.ru/robots.xml

RT
На сайте с 02.07.2012
Offline
90
#4
Valorous:
Нет, вопрос был правильно ли составлен robots.txt? Я хочу, чтобы робот индексировал только те страницы, которые находятся в sitemap.xml и никакие другие. Sitemap лопатить я не просил, вопрос правильно ли я прописал инструкцию для робота в robots.txt?

разберитесь сначала с документацией по robots.txt

чтобы запретить все страницы, кроме тех, которые в sitemap.xml нужно сначала ознакомиться с тем, какие все-таки там страницы представлены.

V
На сайте с 26.01.2011
Offline
55
#5
Russian Traveller:
чтобы запретить все страницы, кроме тех, которые в sitemap.xml нужно сначала ознакомиться с тем, какие все-таки там страницы представлены.

В sitemap представлены страницы необходимые для индексации

RT
На сайте с 02.07.2012
Offline
90
#6
Valorous:
В sitemap представлены страницы необходимые для индексации

и? отвечу вам этим постом

kimberlit:
Предлагаешь самим лопатить твой сайтмап и искать что не закрыл?
siv1987
На сайте с 02.04.2009
Offline
427
#7

Синтаксически составлен правильно. А вот закроет ли он все кроме того что есть в sitemap, зависит уже от того какие ссылки есть на сайте. Вообще чтобы закрыть ВСЕ кроме сайтмэпа надо прописать allow для каждой ссылки отдельно.

V
На сайте с 26.01.2011
Offline
55
#8
Russian Traveller:
и? отвечу вам этим постом

Вы видимо меня не правильно понимаете, я не прошу искать страницы, которые я не закрыл. Дело в том, что на сайте тысячи страниц, которые надо запретить от индексации. Изначально эти страницы находились в robots.txt, но он был очень большим и поисковики его не обрабатывали, поэтому решили пойти обратным путем, запретить к индексации весь сайт, кроме страниц находящихся в sitemap. Вопрос как запретить полностью весь сайт к индексации, кроме файла sitemap.

Как мне кажется правильный вариант реализован здесь: http://hausemafia.ru/robots.txt

siv1987
На сайте с 02.04.2009
Offline
427
#9
Valorous:
Вопрос как запретить полностью весь сайт к индексации, кроме файла sitemap.

Valorous, ответ - никак. Можно конечно, если вам нужно разрешить только пару страниц к индексации, а если там сотня, тысяча, десятки тысяч, и они не попадают под один общий шаблон, то значит никак.

Valorous:
Как мне кажется правильный вариант реализован здесь:

Угу, что означает - разрешить все к индексации.

Нет в вашем случае правильных вариантов. У вас разного формата и с разным название ссылки.

ПС.

ВЫ бы лучше правильно прописали домен у карты сайта.

kimberlit
На сайте с 13.03.2007
Offline
370
#10
Valorous:
Вопрос как запретить полностью весь сайт к индексации, кроме файла sitemap.
Как мне кажется правильный вариант реализован здесь: http://hausemafia.ru/robots.txt

Там всё разрешено. :D

Valorous:
запретить к индексации весь сайт, кроме страниц находящихся в sitemap

Такой функции не существует. Анализируй адреса, создавай правила.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий