Как запретить в роботсе определенную страницу?

sumshi
На сайте с 08.10.2011
Offline
40
1092

Сабж. Допустим роботс выглядит так :

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Host: www.Домен.ru

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Что нужно изменить, чтобы запретить к индексации страницы:

"Домен.ru/page" и "Домен.ru/4cfc8157337a.html" для Яндекса и гугла...Всем спасибо!

W
На сайте с 21.01.2009
Offline
172
#1

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /page
Disallow: /4cfc8157337a.html

Host: www.Домен.ru

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /wp-trackback

Disallow: /wp-feed

Disallow: /wp-comments

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /page
Disallow: /4cfc8157337a.html

sumshi
На сайте с 08.10.2011
Offline
40
#2
weblad:
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /page
Disallow: /4cfc8157337a.html

Host: www.Домен.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /page
Disallow: /4cfc8157337a.html

Спасибо вам.

S
На сайте с 05.08.2008
Offline
36
#3

Я бы еще закрывающие / поставил, а то Google мне тут почему то с таким же роботсом выдал в поиске все страницы с feed, пока слешем не закрыл.

sumshi
На сайте с 08.10.2011
Offline
40
#4
weblad:
User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /page
Disallow: /4cfc8157337a.html

Host: www.Домен.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /page
Disallow: /4cfc8157337a.html

Сделал такой роботс, но яндекс всё равно индексирует эти несуществующие страницы. Это видно в логах. Что-то не так значит.

Optimiz
На сайте с 14.12.2008
Offline
67
#5
sumshi:
Сделал такой роботс, но яндекс всё равно индексирует эти несуществующие страницы. Это видно в логах. Что-то не так значит.

А Яндекс, новый Robots, съел уже ?

Ищете натуральный китайский чай (http://empiretea.ru) в Питере ?
sumshi
На сайте с 08.10.2011
Offline
40
#6
Optimiz:
А Яндекс, новый Robots, съел уже ?

Да, в вэбмастере показывает новый роботс.

Dreammaker
На сайте с 20.04.2006
Offline
569
#7
sumshi:
яндекс всё равно индексирует эти несуществующие страницы.

роботс не мешает боту яндекса заходить на страницы, но со временем он должен выкинуть страницу из индекса. Вот, правда, когда - это уже сложный вопрос :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий