robots.txt

123
Mellifleur
На сайте с 06.05.2011
Offline
57
#11
iren K:
он сам еще не знает - видимо субдомен..

Дополнительный домен, 2 домена второго уровня (один в другом)

Хороший хостинг (http://webhost1.ru/?r=16541) - сам пользуюсь и вам рекомендую. Аптайм, время отклика и загрузка на 5!.
Артемидка
На сайте с 24.10.2010
Offline
30
#12

Я поняла о чем он.

Когда на одном одном тарифном плане несколько сайтов, то один из них основной, а остальные вторичные и находятся в поддиректориях на хостинге.

site1.ru/site2.ru

site1.ru/site3.ru

Я думаю, что если обращение к сайту2 возможно как обращение с поддомену или поддиректориии сайта1 то закрывать в robots.txt надо.

У меня самой сейчас такая ситуация, я буду пытаться закрывать.

не вооружена и не опасна приличный контент за смешные деньги (http://www.textsale.ru/team83114.html) нужна помощь с настройкой скрипта (/ru/forum/638806)
iren K
На сайте с 28.12.2008
Offline
222
#13
Mellifleur:
Дополнительный домен, 2 домена второго уровня (один в другом)

так и надо было писать..

роботс тут ни каким боком - если что надо разруливать, то только через .htaccess..

c уважением Iren
Mellifleur
На сайте с 06.05.2011
Offline
57
#14

Что-то я теперь совсем запутался, так может ли робот пришедший к сайту2 полезть выше корневой папки сайта2, тоесть в корневую папку сайта1?

K
На сайте с 31.01.2001
Offline
737
#15

Робот не лазит по папкам, он дает HTTP-запрос и получает ответ веб-сервера.

Для ответа на запрос по папкам лазит веб-сервер. Выше корня сайта он за файлами и документами не лазит. Иначе можно было бы подсмотреть файлы, которые видеть никому не положено - это огромная дыра в безопасности.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Артемидка
На сайте с 24.10.2010
Offline
30
#16
Mellifleur:
Что-то я теперь совсем запутался, так может ли робот пришедший к сайту2 полезть выше корневой папки сайта2, тоесть в корневую папку сайта1?

Я думаю нет.

А вот если кто-то из конкурентов подскажет яндексу, что по адресу site1.ru/site2.ru имеется копия site2.ru то возникнут проблемы с определением первоисточника контента. Поэтому не забудем про директиву Host.

Все ИМХО, сама сейчас размышляю что делать.

iren K
На сайте с 28.12.2008
Offline
222
#17
Артемидка:
сама сейчас размышляю что делать.

по какому поводу - в роботсе все просто (как в женской бане))..

cheredov
На сайте с 07.04.2011
Offline
125
#18

Mellifleur, Вы скажите какую цель преследуете? А то ничего не понятно. Если у вас структура такая:

site1.ru/site2.ru/ и вы в site1.ru/robots.txt закрыли папку /site2.ru/, то роботы не проиндексируют site2.ru.

Иван Чередов (http://ivan.cheredov.com/about/)
Артемидка
На сайте с 24.10.2010
Offline
30
#19

У меня проблема хуже, второй сайт вылазит как поддомен

site2.site1.ru

я не знаю как запретить индексацию в виде поддомена, оставив индексацию в в виде отдельного домена. Первый раз столкнулась

kimberlit
На сайте с 13.03.2007
Offline
370
#20
cheredov:
и вы в site1.ru/robots.txt закрыли папку /site2.ru/, то роботы не проиндексируют site2.ru.

Сайт site2.ru проиндексируют.

123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий