Robots и динам. страницы

12
R
На сайте с 14.06.2007
Offline
9
632

Здравствуйте, подскажите пожалуйста как запретить индексацию таких страниц

/seller--s_id-47179.html

/seller--s_id-35179.html

/seller--s_id-39189.html

/seller--s_id-56164.html

таких страниц около тысячи, как правильно написать в robots

deedee
На сайте с 13.06.2006
Offline
118
#1

Raspin, http://help.yandex.ru/webmaster/?id=996567

почитайте про использование расширенного формата robots.txt

Цахес
На сайте с 15.03.2007
Offline
205
#2
Raspin:
как запретить индексацию таких страниц

User-agent: *

Disallow: /seller

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
AVV
На сайте с 31.07.2006
Offline
84
AVV
#3
deedee:
Raspin почитайте про использование расширенного формата robots.txt

Речь же не только о Яндекс и Гугль идет. Есть же и другие поисковики, которые расширенный формат (по маске) не понимают.

Цахес:
User-agent: *
Disallow: /seller

Или так:

User-agent: *

Disallow: /seller--s_id-

kimberlit
На сайте с 13.03.2007
Offline
370
#4

User-agent: *
Disallow: /seller--s_id-

R
На сайте с 14.06.2007
Offline
9
#5
Raspin, http://help.yandex.ru/webmaster/?id=996567

почитайте про использование расширенного формата robots.txt

Прописал Disallow: /seller--s_id-*

Но яшка говорит:

Документ /seller--s_id-58153.html не может быть удален из базы Яндекса, так как он возвращает код, отличный от 404, и не запрещен в /robots.txt. Нет оснований для удаления.

Цахес:
User-agent: *
Disallow: /seller

Дело в том что у меня есть еще страницы вида /seller_goods--s_id-65135.html

которые я бы хотел чтобы индексировались

Цахес
На сайте с 15.03.2007
Offline
205
#6
Raspin:
Дело в том что у меня есть еще страницы вида /seller_goods--s_id-65135.html
которые я бы хотел чтобы индексировались

Воспользуйтесь директивой Allow.

Яндекс поддерживает эту директиву в robots.txt.

AVV
На сайте с 31.07.2006
Offline
84
AVV
#7
Raspin:
Прописал Disallow: /seller--s_id-*
Но яшка говорит:
Документ /seller--s_id-58153.html не может быть удален из базы Яндекса, так как он возвращает код, отличный от 404, и не запрещен в /robots.txt. Нет оснований для удаления.

Урл документа http://site.ru/seller--s_id-58153.html

а не http://site.ru/directory/seller--s_id-58153.html

?

Надеюсь, вы не забываете, что все пути в robots.txt прописываются от корня сайта?

R
На сайте с 14.06.2007
Offline
9
#8
AVV:
Урл документа http://site.ru/seller--s_id-58153.html

а не http://site.ru/directory/seller--s_id-58153.html

?

Надеюсь, вы не забываете, что все пути в robots.txt прописываются от корня сайта?

Адрес именно

http://site.ru/seller--s_id-58153.html

Может просто нужно подождаь когда яша пройдется по сайту

AVV
На сайте с 31.07.2006
Offline
84
AVV
#9
Raspin:
Может просто нужно подождаь когда яша пройдется по сайту

Для delurl это не нужно.

Может быть еще вариант, что старый robots застрял в каком-нибудь кэше или прокси (зависит от хостера).

Кстати, проверьте на всякий случай через test-robots.

kimberlit
На сайте с 13.03.2007
Offline
370
#10

User-agent: *
Disallow: /seller--s_id-

Сделайте вот так и проверьте всё-таки наличие файла в корне сайта.

По адресу http://site.ru/robots.txt - он открывается?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий