robots.txt запретить поддомены

12
Фома
На сайте с 10.11.2006
Offline
600
#11

esenin, в HC (РБК) была та же проблемма. Теребил техподдержку, они что то там сделали у себя, и все вроде стало нормально.

Работало долго, на abrakadabra.site.ru выдавало 404, пока мне не понадобился поддомен. Создать не смог, стал опять им писать, они и поведали страшную историю что запретили все с именем *.site.ru. Я попросил разблокировать, разблокировали, теперь работает поддомен nujnoe.site.ru, но abrakadabra.site.ru опять ведет на site.ru

Аренда апартаментов на Тенерифе (http://las-americas.ru/).
esenin
На сайте с 22.01.2007
Offline
239
#12
DyaDya:
Вроде диалог был с "поэтом" сначала)))))

у ажиотажа тот же хостинг :) с ним как раз в асе обсуждали

esenin добавил 22.03.2008 в 19:20

То есть если я в корневой каталог сайта www.site.ru положу robots.txt с содержанием

User-agent: *

Disallow: /

Host: site1.site.ru

Host: site2.site.ru

Host: site3.site.ru

то site1.site.ru site2.site.ru site3.site.ru исключатся поисковичами из индекса ?

Комменты на сайт по 2 рубля (http://goo.gl/F9kcZ0) (живые лайки и ретвиты) Brave браузер (https://brave.com/bra908) - браузер который платит токены BAT
Megavolt
На сайте с 23.12.2005
Offline
179
#13

esenin, НЕТ.

esenin:
User-agent: *
Disallow: /
Host: site1.site.ru
Host: site2.site.ru
Host: site3.site.ru

это полная ***, директива host никакого отношения не имеет к индексации, только якобы к выбору основного зеркала, и то сомнительно.

что нужно делать:

1. с разбега бить по яйцам поддержку хостера.

2. делать клоакинг роботса. т.е. роботс должен не файлом лежать. а генериться скриптом. скрипт, имея список разрешенных доменов 3го уровня, на попытку обращения к несуществующему должен отдавать

User-agent: Yandex
Disallow: /
Иногда лучше жевать.... (С)
esenin
На сайте с 22.01.2007
Offline
239
#14

да уже понял что тупанул :)

у кого-нибудь есть пример скрипта ?

спасибо

K
На сайте с 31.01.2001
Offline
737
#15
esenin:
хостинг настроен так (не мной), что по дресу чтоугодно.site.ru выдает корневой сайт, то есть я могу набрать fsdhjkdh.site.ru и увижу site.ru

Вот тут прокрутите 1 страницу вниз. В примере разрешена индексация только домена www.xxxx.ru .

"Обычно для этого в .htaccess добавляют строчку:

AddHandler server-parsed .txt

После этого надо разместить следующий robots.txt :

< !--#if expr=" \"${HTTP_HOST}\" != \"www.xxxx.ru\" " -- >

User-Agent: *

Disallow: /

< !--#endif -->

"

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Ajiotaj
На сайте с 01.12.2006
Offline
150
#16
DyaDya:
Вроде диалог был с "поэтом" сначала)))))

Всё верно. Просто его домен в моём акаунте :)

Отписал админу - говорят это проблема DNS была, типа починили, ждите 24 часа.

siv
На сайте с 06.10.2007
Offline
11
siv
#17

вашу проблему замечательно лечит директива хост - для пс все остальное зеркала. пропишите основной домен и все. если одна и таже страница отдается по всем поддоменам, то и роботс тот же. а поскольку в нем есть директива хост - пс сразу увидит принадлежность и поклеит.

Megavolt
На сайте с 23.12.2005
Offline
179
#18

siv, и гугль поклеет?

siv
На сайте с 06.10.2007
Offline
11
siv
#19
Megavolt:
siv, и гугль поклеет?

гугль может и не поклеит, тут про яндекс вроде вопрос был )

E
На сайте с 02.11.2006
Offline
61
#20

Чтобы не открывать новую тему по тому же самому вопросу.. Есть реальный поддомен, который надо убрать из индексации яндекса. Правильно ли написали роботс или там есть ошибки?

User-agent: *
Disallow:

User-agent: Yandex
Disallow: www.poddomen.site.ru

При этом нужно, чтоб роботс лежал в корне самого сайта, т.к. с запихиванием в корень к поддомену есть сложности политического характера. :) Или не сработает?

С уважением, Elvit
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий