Про чпу вопрос и индексацию вопрос

A
На сайте с 20.08.2010
Offline
775
580

Что-то туплю. На вп в стандарте урлы имеют вид site.ru/?p=555, сейчас стоят чпу типа site.ru/stranica555. Робот часто обращается к первым ссылкам, так как они торчат в коде - это нормально, выдается 301 редирект. Я закрыл стандартные урлы (site.ru/?p=555) в роботсе (Disallow: /?), что бы бот не трогал их, так как они все равно редиректят на чпу-линки. Я правильно понимаю, что те страницы, которые переведены в чпу, никак не зависят от начальных урлов и закрытие в роботсе начальных урлов никак не повлияет на индексацию страниц, так как все нужные страницы в индексе уже в чпу?

Coolmac
На сайте с 08.09.2011
Offline
60
#1

Не, тут был неправ.

Почему Disallow: /? а не Disallow /?p=* .

Доступные vps/ds с грамотной тех. поддержкой (https://my.friendhosting.net/pl.php?11304)
A
На сайте с 20.08.2010
Offline
775
#2
Coolmac:

Почему Disallow: /? а не Disallow /?p=* .

Потому что там помимо начальных ссылок еще куча хлама любит индексироваться со знаком вопроса, включая поиск по сайту, комментарии и прочее. Можно еще так Disallow: /*? -тоже работает.

domen4you
На сайте с 08.03.2013
Offline
53
#3
awasome:
Я закрыл стандартные урлы (site.ru/?p=555) в роботсе (Disallow: /?), что бы бот не трогал их, так как они все равно редиректят на чпу-линки

для этого в wp <link rel="canonical" ... сделан, закрывать через роботс нет необходимости

A
На сайте с 20.08.2010
Offline
775
#4
domen4you:
для этого в wp <link rel="canonical" ... сделан, закрывать через роботс нет необходимости

Я закрываю от бота, что бы он не лазил по таким ссылкам, так как их предостаточно, что сказывается на нагрузке. Понятно, что можно не закрывать, но мне нужно закрыть. Я погуглил, конструкция Disallow: /*? встречается не так уже редко, по идее, не должно сказаться на индексации.

A
На сайте с 20.08.2010
Offline
775
#5

Убрал несколько страниц из индекса, в вм пишет, что из-за того, что они запрещены в роботсе :) Интересная картина. Скорее всего потому, что не смог прочитать ссылки вида site.ru/?p=555, хотя чпу отдает 200.

SeVlad
На сайте с 03.11.2008
Offline
1609
#6
domen4you:
для этого в wp <link rel="canonical" ... сделан, закрывать через роботс нет необходимости

Более того - роботы не индексируют страницы (урлы) с 301.

awasome:
Я закрываю от бота, что бы он не лазил по таким ссылкам, так как их предостаточно, что сказывается на нагрузке.

Он лазит потому, что он находит эти беки, а их закрытие в робосте от ползания роботов не спасает. Но с чего бы быть нагрузке - не ясно. Это д\б суперкопечная нагрузка.

Но ясно, что тебе надо искать источники этих ссылок и фиксить там.

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
A
На сайте с 20.08.2010
Offline
775
#7
SeVlad:
Более того - роботы не индексируют страницы (урлы) с 301.

Знаю, индексирует конечную ссылку, на которую идет редирект.

SeVlad:

Он лазит потому, что он находит эти беки, а их закрытие в робосте от ползания роботов не спасает. Но с чего бы быть нагрузке - не ясно. Это д\б суперкопечная нагрузка.
Но ясно, что тебе надо искать источники этих ссылок и фиксить там.

Там на самом деле все не так просто, а вместе с вот этим.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий