Как закрыть от индексации поддомен

12
Ольга Деева
На сайте с 14.10.2008
Offline
156
3378

Есть сайт - site.by, у него есть куча (более 10 тыс) поддоменов, но эти поддомены не являются полноценными сайтами - это просто страницы клиентов. Эти страницы генерируются движком и на фтп не имеют отдельных папок. Попыталась прописать в роботсе:

Disallow: /poddomen.site.by

но Яндекс не обнаружил, что поддомен закрыт от индексации.

Подскажите, пожалуйста, как правильно прописать в роботсе, что поддомен закрыт от индексации? Файл роботс находится в корневой папке самого сайта.

ftgame
На сайте с 04.11.2007
Offline
97
#1

Судя по всему. в корне поддомена нужно всунуть robots.txt именно такого содержания:

Disallow: /
грац.
На сайте с 13.08.2010
Offline
176
#2

sherry, для поддоменов роботс так же как и для доменов :)

а не с главного закрывать поддомены.

cheredov
На сайте с 07.04.2011
Offline
125
#3
sherry:
Подскажите, пожалуйста, как правильно прописать в роботсе, что поддомен закрыт от индексации? Файл роботс находится в корневой папке самого сайта

Насколько мне известно стандарт robots.txt не предусматривает использования в поле Disallow: абсолютных путей.

Воспользуйтесь метатегом robots в заголовках нужных страниц или запретите индексацию через htaccess.

Иван Чередов (http://ivan.cheredov.com/about/)
Ольга Деева
На сайте с 14.10.2008
Offline
156
#4
ftgame:
Судя по всему. в корне поддомена нужно всунуть robots.txt именно такого содержания:
грац.:
а не с главного закрывать поддомены.

Не нахожу я на фтп поддоменов. Только основной. В этом-то и проблема. Их больше 10-ти тыс, но на фтп я их не вижу.

cheredov:
или запретите индексацию через htaccess.

Подскажите, пожалуйста, как.

cheredov
На сайте с 07.04.2011
Offline
125
#5

sherry, У вас домен с www? других нужных поддоменов кроме юзерских нет?

nik2019
На сайте с 28.04.2009
Offline
182
#6

на этих поддоменах добавьте мета тэг

<meta name="robots" content="noindex, nofollow" />

Многодарю
грац.
На сайте с 13.08.2010
Offline
176
#7

sherry, это вопрос к хостеру, они уже покажут где чё лежит.

Ольга Деева
На сайте с 14.10.2008
Offline
156
#8
cheredov:
sherry, У вас домен с www? других нужных поддоменов кроме юзерских нет?

Домен с www, есть другие поддомены, около 15-ти.

VE
На сайте с 17.08.2006
Offline
76
#9

Если стр. генерится движком и вам СОВСЕМ и вашим юзерам СОВСЕМ не нужно (есть варианты), чтобы такие стр. были в индексе, то берем программиста (или сами) и в шаблон, которым генерятся юзерские стр. вписываем замечательный мета-тег meta name="Robots" content="params"

params = noindex, nofollow - никому ничего

params = noindex, follow - это если захотите, чтобы ссылки на ваш основной сайт все же работали.

nik2019 чуть опредил

cheredov
На сайте с 07.04.2011
Offline
125
#10

sherry, сразу после

RewriteEngine On

добавьте:

RewriteCond %{HTTP_USER_AGENT} ^yandex.*|google.*$

RewriteCond %{HTTP_HOST} !pod1.site.ru$ [NC]

RewriteCond %{HTTP_HOST} !pod2.site.ru$ [NC]

RewriteCond %{HTTP_HOST} !www.site.ru$ [NC]

RewriteCond %{HTTP_HOST} ^([a-z0-9-]+).site.ru$ [NC]

RewriteRule .* - [F]

pod1, pod2 - поддомены которые не хотите запрещать.

Проверить видят ли теперь роботы ваши поддомены можете воспользоваться этой формочкой.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий