Вопрос по robots.txt и закрытию от индексации.

12 3
DH
На сайте с 20.10.2010
Offline
28
2048

Здравствуйте.

Нужна помощь в закрытии страниц от индексации.

Двиг wordpress.

В robots.txt есть директива

Disallow: /category

что не помешало Гоше проиндексировать несколько страниц категорий вида

site.ru/category/kofe-poroshkovyj

site.ru/category/espresso

С чем это может быть связано?

И еще одна проблема.

Гоша также проиндексировал страницы вида site.ru/espresso, что в принципе является аналогом site.ru/category/espresso. Их можно закрыть каким-то образом?

Спасибо.

victor222
На сайте с 29.10.2009
Offline
192
#1
DaHuJIka:
Здравствуйте.
С чем это может быть связано?

это происходит часто, ищите битую ссылку!

DaHuJIka:
Здравствуйте.
И еще одна проблема.
Гоша также проиндексировал страницы вида site.ru/espresso, что в принципе является аналогом site.ru/category/espresso. Их можно закрыть каким-то образом?
Спасибо.

Так пробуйте! Disallow: /*/category

kimberlit
На сайте с 13.03.2007
Offline
370
#2
DaHuJIka:
страницы вида site.ru/espresso, что в принципе является аналогом site.ru/category/espresso
victor222:
Так пробуйте! Disallow: /*/category

Что за ахинея?

victor222
На сайте с 29.10.2009
Offline
192
#3
kimberlit:
Что за ахинея?

Для этого site.ru/category/espresso.

kimberlit
На сайте с 13.03.2007
Offline
370
#4
victor222:
Для этого site.ru/category/espresso.

Ты бы пошёл матчасть что ли почитал, мусьё советчик.

K
На сайте с 31.01.2001
Offline
737
#5

Disallow: /*/category

не запрещает индексировать

/category/espresso

victor222, вы сначала почитайте ссылки в FAQ про robots.txt, прежде чем в очередной раз так позориться.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
L5
На сайте с 11.10.2009
Offline
65
La5
#6

Посмотрите какой robots (в броузере: http://site.ru/robots.txt) отдает WP, потому как он отдает его, даже если файл физически не создан в корневой директории.

И проверьте свой robots в панельке вебмастера гугла. Там можно задать путь и посмотреть как гугл его обрабатывает.

Если я Вам помог, не забывайте ставить + в карму!
DH
На сайте с 20.10.2010
Offline
28
#7
La5:
Посмотрите какой robots (в броузере: http://site.ru/robots.txt) отдает WP, потому как он отдает его, даже если файл физически не создан в корневой директории.

Я просто не хочу писать адрес настоящего сайта. Сам сайт отдает robots.txt без проблем.

Кстати, вот robots.txt:

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

La5:

И проверьте свой robots в панельке вебмастера гугла. Там можно задать путь и посмотреть как гугл его обрабатывает.

Гугл считал robots.txt. И Он указан в панели вебмастера. Подскажите, как узнать, как гугл обрабатывает.

G
На сайте с 19.03.2011
Offline
42
#8

WMT-Доступ для сканера: Укажите URL-адреса и роботов User Agent для проверки.

Вставляйте и узнавайте

как гугл обрабатывает
victor222
На сайте с 29.10.2009
Offline
192
#9
Kost:
Disallow: /*/category
не запрещает индексировать
/category/espresso

victor222, вы сначала почитайте ссылки в FAQ про robots.txt, прежде чем в очередной раз так позориться.

Перепутал слово! :) Было 3 часа ночи, с про сони глупости написал! Нужно было спать лучше

DH
На сайте с 20.10.2010
Offline
28
#10
victor222:
Перепутал слово! :) Было 3 часа ночи, с про сони глупости написал! Нужно было спать лучше

Вы имеете в виду

Disallow: /*/espresso ?

У меня 17 таких категорий, и каждую нужно закрывать таким образом?

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий