Закрыть от индексации (robots.txt)

12
flame666
На сайте с 15.06.2010
Offline
118
5700

Здравствуйте, уважаемые форумчане, скажите как решить такую проблему, на сайте есть раздел

==============================

http://vuzi64.ru/rabota

==============================

А в нём есть вакансии - например:

http://vuzi64.ru/rabota/pomoschnik-rukovoditelya-ot-15-500-do-19-500-rub

http://vuzi64.ru/rabota/iphone-programmist

http://vuzi64.ru/rabota/verstalschik-html

==============================

Так вот вопрос

Как сделать так, чтобы закрыть от индексации в robots.txt все странице с вакансиями, но оставить для индексации главную http://vuzi64.ru/rabota ?

Ведь как я понимаю если прибегнуть к

Disallow: /rabota/

То и http://vuzi64.ru/rabota будет не доступна для индексации - я имею в виду та часть текста, которая начинается со слов:

"Здравствуйте уважаемый посетитель Вузы64.ru. Мы рады вам представить новый функционал нашего ресурса. Здесь будет представлена работа для студентов из города Саратова."

Спасибо

Мир не Disney - помогай за respect (с)
R2
На сайте с 05.03.2011
Offline
8
#1

например

User-agent: Yandex

Allow: /rabota$ - разрешаем http://vuzi64.ru/rabota

Disallow: /rabota* - запрещаем ссылки по типу http://vuzi64.ru/rabota/verstalschik-html

Т.к. директивы пересекаются, будет выбрана первая

flame666
На сайте с 15.06.2010
Offline
118
#2

Хорошо, спасибо большое.

Filan
На сайте с 26.05.2011
Offline
119
#3

riano2010,

User-agent: *

Disallow: /xmlrpc.php

вот так вот закрываю такую страницу. но она не вылетает из поиска, что не так?

A
На сайте с 13.05.2010
Offline
55
#4

Allow: можно вообще не использовать.

Поскольку роботы и без указаний всё индексируют, им нужно указывать, что НЕ нужно индексировать.

В вашем случае достаточно прописать

Disallow: /rabota/

Это правило запретит индексацию всех страниц, которые содержат http://vuzi64.ru/rabota/

Ваша целевая страница http://vuzi64.ru/rabota Без слеша вконце, поэтому правило

Disallow: /rabota/

её не затронет, и она будет индексироваться.

Проверить мои слова можно здесь - http://webmaster.yandex.ru/robots.xml

R2
На сайте с 05.03.2011
Offline
8
#5
Filan:
такую страницу

Проверить мои слова можно здесь - http://webmaster.yandex.ru/robots.xml

В принципе, должна закрыться

A
На сайте с 13.05.2010
Offline
55
#6

Всё сказанное касается ТС, а не Filan. Его проблему я даже не рассматривал.

riano2010:

В принципе, должна закрыться

Спорить не собираюсь, я просто привёл пример того, что показывает сам яндекс.

Частично с вами согласен, так как для закрытия сайта от индексации достаточно прописать правило

Disallow: /

С одной стороны это закрывает сайт от индексации, с другой стороны - главная находится поисковиками.

Но и мой предыдущий пост не лишён логики. Правила индексации можно проверить не только в яндекс вебмастере, но и в гугле. К общему удивлению, результат будет тот же...

У человека изначально неправильно построена структура линков.

При нормальном построении можно было бы прописать

Disallow: /rabota/*.html

Такое правило точно указывало бы на то, что не следует индексировать страницы глубже каталога /rabota/ с расширением .html (или что-то другое)

Используйте инструменты, которые предлагают сами поисковики.

Зачем изобретать велосипед?

kimberlit
На сайте с 13.03.2007
Offline
370
#7
artool:
Disallow: /
С одной стороны это закрывает сайт от индексации, с другой стороны - главная находится поисковиками.

Про главную не понял. Как она в таком случае находится?

golf4man
На сайте с 16.08.2010
Offline
136
#8

А у меня обратная ситуация. Нужно страницы с вакансиями оставить, а сам раздел скрыть. Так не получится?

kimberlit
На сайте с 13.03.2007
Offline
370
#9
golf4man:
А у меня обратная ситуация. Нужно страницы с вакансиями оставить, а сам раздел скрыть. Так не получится?

Получится, если твоя религия не против прочтения хэлпа Яндекса.

golf4man
На сайте с 16.08.2010
Offline
136
#10
kimberlit:

Получится, если твоя религия не против прочтения хэлпа Яндекса.

Не с религией все ок. Дайте ссылочку пожалуйста.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий