Опять про зеркала...

Zemlemer
На сайте с 31.08.2006
Offline
76
365

У меня такая ситуация...

Изначально сайт прогонялся по базе каталогов как site_url.ru.

И в Яндекс добавлялся также.

Соответсвенно, бэклинков больше у site_url.ru, но Яндекс индексирует

www.site_url.ru, у которого бэклинков меньше, а site_url.ru не индексирует вовсе, как зеркало.

robots.txt был, но без каких либо приоритетов по Host.

Если сейчас вписать

Host: site_url.ru,

то будет ли Яндекс индексировать site_url.ru, вместо www.site_url.ru?

Почему Яндекс выбрал для индексации www.site_url.ru, хотя при регистрации

указывался site_url.ru, а www.site_url.ru - как зеркало?

Спасибо...

Мы уже победили (просто это еще не так заметно)... Размещение статей на трастовых сайтах (http://miralinks.ru/users/registration/from:243)
lexalink
На сайте с 08.09.2005
Offline
271
#1

Возможно, некоторые каталоги добавили ваш сайт с www, yandex увидел этот бек, проиндексировал с www, в robots.txt пропишите :

User-Agent: *

Host: site.ru

Рад новым знакомствам ( арбитраж, майнинг, сео, трафик и т.д.) - @lexalink (https://t.me/lexalink)
Bloody dude
На сайте с 16.03.2006
Offline
68
#2
Zemlemer:
Если сейчас вписать
Host: site_url.ru,
то будет ли Яндекс индексировать site_url.ru, вместо www.site_url.ru?
Почему Яндекс выбрал для индексации www.site_url.ru, хотя при регистрации
указывался site_url.ru, а www.site_url.ru - как зеркало?

1. www.site_url.ru довольно быстро выпадет из индекса, поскольку в таком варианте директива хост запретит его индексацию.

2. четкого ответа на этот вопрос сам не нашел. Возможно, Яндекс выбирает то зеркало, которое найдет раньше...

Bloody dude
На сайте с 16.03.2006
Offline
68
#3
lexalink:

User-Agent: *
Host: site.ru

Лучше так:

User-Agent: Yandex

Disallow: /dir/

Host: site.ru

User-Agent: *

Disallow: /dir/

В стандарте написано, что файл роботс.тхт должен содержать хотя бы одну запрещающую директиву. А что касается директивы хост, то ее понимает только Яндекс.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий