файл robots.txt

12
X
На сайте с 13.07.2009
Offline
29
703

Вопрос следующий:

Есть 2 сайта: test1.ru и test2.ru

Сайт test1.ru - зеркало сайта test2.ru

Если сначала был проиндексирован test2.ru, а нужно чтобы индексировался только сайт test1.ru, то в таком случаи, нужно в файле роботс написать такую строчку:

host: test1.ru

Правильно ли я понимаю, что как только робот зайдет на сайт test2.ru, он сразу же перейдет к индексации test1.ru, а сайт test2.ru исключит из поиска (не забанит, а именно исключит?) ?

Alex Klo
На сайте с 15.06.2006
Offline
304
#1
xchng:
Правильно ли я понимаю, что как только робот

правильно, но не как только, а долго (месяца 3 в Яндексе)

в гугле достаточно быстро.

Проверка и мониторинг позиций сайта ( http://www.topvisor.ru/?inv=1520 ) Продвигаю сайты http://climat-nw.ru/conditioner-installation/ http://www.aircom-spb.ru/service/montaj/
X
На сайте с 13.07.2009
Offline
29
#2
Alex Klo:
правильно, но не как только, а долго (месяца 3 в Яндексе)
в гугле достаточно быстро.

т.е. test2.ru будет индексировать ещё 3 месяца?

P
На сайте с 10.03.2008
Offline
168
#3

А гугл стал понимать host?

Нужен еще 301 редирект в .htaccess на старом домене

<FilesMatch "robots.txt$">
RewriteEngine off
</FilesMatch>
Options +FollowSymLinks
RewriteEngine on
RewriteRule (.*) http://newdomain.ru/$1 [R=301,L]

По времени новый домен переиндексируется за ~неделю. Старый сайт (некоторые страницы) еще долго будет в индексе, возможно месяцами.

Alex Klo
На сайте с 15.06.2006
Offline
304
#4

склеиваться они будут 3 месяца после того как оба проиндексируются.

если хотите быстрее читайте про склейку доменов, 301-й редирект и т.д.

X
На сайте с 13.07.2009
Offline
29
#5
Alex Klo:
склеиваться они будут 3 месяца после того как оба проиндексируются.
если хотите быстрее читайте про склейку доменов, 301-й редирект и т.д.

что значит оба проиндексируются?

Сначала индексируется test2.ru, после того как робот обнаруживает, то что сайт зеркало, он начинает индексировать test1.ru - так как он первоисточник. А сайт test2.ru больше не индексируется. Можно его даже запретить к индексации (test2.ru)

pistol:
Старый сайт (некоторые страницы) еще долго будет в индексе, возможно месяцами.

это ясно. А будет ли он индексироваться? будет робот парсить его страницы?

P
На сайте с 10.03.2008
Offline
168
#6
xchng:
это ясно. А будет ли он индексироваться? будет робот парсить его страницы?

Нет. Там сайта вообще не будет для поисковиков, все запросы будут перенаправляться на новый домен.

X
На сайте с 13.07.2009
Offline
29
#7
pistol:
Нет. Там сайта вообще не будет для поисковиков, все запросы будут перенаправляться на новый домен.

это вы говорите о Яндекс или Google?

P
На сайте с 10.03.2008
Offline
168
#8
xchng:
это вы говорите о Яндекс или Google?

Про обоих. 301 редирект в .htaccess действует и для яши и для гугла, и для простого юзера. Если посетители будут переходить из выдачи на старый домен, они будут перенаправляться на ту же страницу нового.

host в robots.txt нужен скорее для передачи ссылочной массы от старого домена к новому домена.

megaBOT
На сайте с 24.10.2009
Offline
93
#9

не стал создавать новую тему...

цель - запретить заход всех поисковых ботов на мой сайт, за исключением Яндекса и Гугла. правильно ли я сделал ? -->

User-agent: Yandex

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /images/

Disallow: /includes/

Disallow: /installation/

Disallow: /language/

Disallow: /libraries/

Disallow: /media/

Disallow: /modules/

Disallow: /plugins/

Disallow: /templates/

Disallow: /tmp/

Disallow: /xmlrpc/

Host: www.site.ru

User-agent: Googlebot

Disallow: /administrator/

Disallow: /cache/

Disallow: /components/

Disallow: /images/

Disallow: /includes/

Disallow: /installation/

Disallow: /language/

Disallow: /libraries/

Disallow: /media/

Disallow: /modules/

Disallow: /plugins/

Disallow: /templates/

Disallow: /tmp/

Disallow: /xmlrpc/

Host: www.site.ru

User-agent: *

Disallow:

Host: www.site.ru

заранее благодарю за ответ...

Light Phantom
На сайте с 17.03.2007
Offline
188
#10

xchng, Host с большой буквы

megaBOT,

User-agent: *

Disallow: /

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий