robots.txt запретить поддомены

12
esenin
На сайте с 22.01.2007
Offline
239
15957

Здравствуйте.

Подскажите как в robots.txt запретить к индексации все поддомены корневого домена? Яндекс почему-то наиндексировал поддоменов.

спасибо

Комменты на сайт по 2 рубля (http://goo.gl/F9kcZ0) (живые лайки и ретвиты) Brave браузер (https://brave.com/bra908) - браузер который платит токены BAT
Talisman13
На сайте с 20.01.2007
Offline
211
#1

User-agent: Yandex

Disallow: /

Host: www.domen.site.ru

Это только для Яндекса. И этот файл должен находится в каждом поддомене.

Вот еще справка.

Yeugeny
На сайте с 01.02.2008
Offline
42
#2
Talisman13:
User-agent: Yandex
Disallow: /
Host: www.domen.site.ru

Это только для Яндекса. И этот файл должен находится в каждом поддомене.

Вот еще справка.

А не проще в одном роботсе прописать? В том, который самый верхний:

Disallow: /*.site.ru

Вроде нормально должно работать или я что-то путаю?

Talisman13
На сайте с 20.01.2007
Offline
211
#3
Yeugeny:
Вроде нормально должно работать или я что-то путаю?

наверное что-то путаете, так как не видел такого... :)

А еще и главное зеркало где в таком случае пропишем??? :))))

DyaDya
На сайте с 11.04.2007
Offline
147
#4

Все зависит от того, как построена работа с доменами на вашем хостинг-аккаунте.

1 вариант. Пожалуй, стандартный. Достаточно в каждый поддомен набросать одинаковых файлов robots.txt

User-agent: Yandex
Disallow: /

Замечу, что Host можно не прописывать, ибо нафига, если индексацию все равно запретили. И без него проще, так как легче по поддоменам раскидали этот коротенький файлик и все.

2 Вариант. В котором можно бросить один robots.txt в корень доменчега второго уровня - ну для этого должны быть особые настройки. Т.е. все поддомены должны обрабытваться общим доменом второго уровня. Пример, когда поддомены генерятся динамически: vasya.site.ru, katya.site.ru и т.д. но визически это одно и тоже, просто скриптами обрабатывается адрес домена и принимается решение, что выдавать посетителю... Правда тогда и роботс нужно будет выдавать разный по содержимому. При запросе доменов третьего уровня, выдавать запрет на индексацию, а при запросе домена второго уровня и второго уровня но с WWW, выдавать разрешение на индексацию. Я криво сказанул, возможно, но, надеюсь, поймете.

Выбирайте качественный хостинг (http://vashmaster.ru/informaciya/o_poleznyh_programmah/news83.php) и продвигайте сайты в СЕОПУЛЬТ (http://seopult.ru/ref.php?ref=72b5ed9561fe66a1). А на «SAPE» я в обиде :) Не упрекайте за очепятки, пишу вслепую (http://ergosolo.ru/) и также делаю сайты (http://www.vashmaster.ru/) ;)
Каширин
На сайте с 03.01.2004
Offline
1031
#5
Yeugeny:
А не проще в одном роботсе прописать? В том, который самый верхний:
Disallow: /*.site.ru

Проще. Но работать не будет ;)

T.R.O.N
На сайте с 18.05.2004
Offline
314
#6
Yeugeny:
А не проще в одном роботсе прописать? В том, который самый верхний:
Disallow: /*.site.ru
Вроде нормально должно работать или я что-то путаю?

полный бред!

С точки зрения сети, понятия поддомен - отсуствует. Есть домены 2-го, 3-го и т.д. уровней. Между ними - разницы нет

От воздержания пока никто не умер. Хотя никто и не родился! Prototype.js был написан теми, кто не знает JavaScript, для тех, кто не знает JavaScript (Richard Cornford)
regta
На сайте с 15.04.2006
Offline
320
#7

Сделайте отдельный шаблон для всех страниц на поддоменах и запретите индексацию в теге meta

Цитируйте, плиз, историю переписки в личке. Спасибо.
esenin
На сайте с 22.01.2007
Offline
239
#8

хостинг настроен так (не мной), что по дресу чтоугодно.site.ru выдает корневой сайт, то есть я могу набрать fsdhjkdh.site.ru и увижу site.ru... каким образом они появились в яндексе не пойму.

Ajiotaj
На сайте с 01.12.2006
Offline
150
#9

На хостинге можно создавать поддомены вручную - виртуальные хосты (virtual hosts).

Казус в том, что на домене НЕ создано ниодного поддомена! Откуда яндекс их взял вообще не ясно.

Соответственно вариант с роботс в каждом поддомене не получиться чисто технически...

DyaDya
На сайте с 11.04.2007
Offline
147
#10
Ajiotaj:
На хостинге можно создавать поддомены вручную - виртуальные хосты (virtual hosts).

Казус в том, что на домене НЕ создано ниодного поддомена! Откуда яндекс их взял вообще не ясно.

Соответственно вариант с роботс в каждом поддомене не получиться чисто технически...

Вроде диалог был с "поэтом" сначала)))))

Ну ладно, ответим и Вам. Похоже вам подходит как раз 2 Вариант (выше я упоминал об этом). И еще лучше сначала связаться с хостерами и узнать что у вас реально с настройками хоста.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий