Robots - запрет на индекс, или на просмотр

K
На сайте с 18.11.2008
Offline
84
718

Не смог найти ответ поиском, думаю, что "для новичков" - самый подходящий раздел.

Вопрос в следующем - что-то, написанное в robots.txt - это запрещающее правило на добавление в индекс, или на просмотр содержимого страницы роботом?

Благодарю за ответ.

Maximalist
На сайте с 17.04.2007
Offline
202
#1

это запрет на индексацию

- = тут что-то должно быть = -
K
На сайте с 31.01.2001
Offline
737
#2

На скачивание роботом-индексатором и на сохранение куда-либо.

Зеркальщик Яндекса - может скачивать.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
K
На сайте с 18.11.2008
Offline
84
#3

Благодарю за объяснения, объясню в чем дело.

Сайт имеет структуру

site.com/news/nature/gallery001/index.htm

каждая из страниц index.htm содержит уникальное описание и 5- 7 картинок.

При клике на картинку открывается страница

site.com/news/nature/gallery001/picture_01.htm

при этом страницы особо не отличаются контентом - слегка титл и номер фотографии в галерее.

Примерно месяц назад схватил АГС, после чего начал размышлять на тему того, почему это могло случиться - вывод напросился сам собой - в роботсе прописал

Disallow: /picture_

Теперь и сам вопрос - правильно ли написана строка, поскольку робот (тот, что определяется, как Yandex) продолжает шерстить по сайту. Если я правильно понимаю, то индексатор не должен заходить на эти страницы.

Спасибо.

S
На сайте с 28.10.2005
Offline
319
#4
Knigorub:
поскольку робот (тот, что определяется, как Yandex) продолжает шерстить по сайту.

Не сразу реагирует на запрет

ParserYa
На сайте с 04.10.2010
Offline
29
#5

Проще на такие ссылки ставить rel=nofollow - адекватно воспринимается всеми ПС.

K
На сайте с 18.11.2008
Offline
84
#6
semenov:
Не сразу реагирует на запрет

в роботс было прописано еще 23 ноября. Неужели еще не настал час Х?

ParserYa:
Проще на такие ссылки ставить rel=nofollow - адекватно воспринимается всеми ПС.

В принципе, тоже выход, но robots-то, вроде, тоже не просто так придумывали...

S
На сайте с 28.10.2005
Offline
319
#7
Knigorub:
в роботс было прописано еще 23 ноября. Неужели еще не настал час Х?

А, только сейчас заметил, вы неправильно директиву прописали

Disallow: /*/picture_

K
На сайте с 18.11.2008
Offline
84
#8

благодарю, попробую так...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий