Какие факторы влияют на скорость индексирования

12
PN
На сайте с 22.08.2012
Offline
103
1525

Подскажите, пожалуйста, по поводу бота Google! Есть 2 сайта, на каждом порядка 5 млн страниц. Оба имеют правильную SEO-структуру: title, keywords, description, h1, перелинковка и т.д. Страницы 1-го грузятся в среднем за 200 мс, второго - 500 мс. Скорость индексации первого - 150 тыс страниц в день, второго - 150 в день (в 1000 раз меньше). Кто-нибудь может это объяснить?

Мой совет помог? Не скупись! Bitcoin 1Lseddet1o1B6odgXQHbGaWGwRkt1Db8Ef Ethereum 0x450f1a17461e25194B7F9226cDEe70173F39e1e1
sacha1425
На сайте с 16.12.2007
Offline
107
#1

Со 100% гарантией никто не скажет, кроме самого гугла конечно

Создание сайтов ( https://cospi.ru ) в Москве | Ремонт квартир ( https://proremontov.ru ) в Москве
slaviktorres
На сайте с 05.12.2010
Offline
183
#2
proksey-net:
Есть 2 сайта, на каждом порядка 5 млн страниц
proksey-net:
Кто-нибудь может это объяснить?

..........

PN
На сайте с 22.08.2012
Offline
103
#3
slaviktorres:
..........

не понял, что это значит

kittenAA
На сайте с 07.05.2010
Offline
123
#4
proksey-net:
не понял, что это значит

5 млн. очень много

не факт, что будет вообще индекс всего

slaviktorres
На сайте с 05.12.2010
Offline
183
#5
proksey-net:
не понял, что это значит
proksey-net:
Есть 2 сайта, на каждом порядка 5 млн страниц.

От куда???

Zegeberg
На сайте с 30.09.2010
Offline
305
#6
на каждом порядка 5 млн страниц

Испугался Google, у него у самого столько нет. За глаза подробнее никто не скажет.

Ссылки с форумов, блогов и соц сетей ( https://forumok.com/p/c1710b6b/ ) Создание, настройка и ведение РК Директ
PN
На сайте с 22.08.2012
Offline
103
#7
Zegeberg:
Испугался Google, у него у самого столько нет. За глаза подробнее никто не скажет.

тем не менее второй сайт хорошо индексируется:)

Keal
На сайте с 24.05.2007
Offline
129
#8

Скорость загрузки где меряли?

По экспериментам на позиции влияет скорость ответа сервера, Time to first byte, а не скорость загрузки контента, так как 2 страницы могут быть разные по размеру, в одной нет картинок, в другой много. Или видеоплееры типа ютубов.

Влияет ли это на скорость индексации неясно.

На скорость индексации влияют ссылки, а именно их pagerank (не тулбарный, а реальный).

Цитата:

Первое, что мы решили протестировать, это утверждение Мэтта Каттса: "... количество страниц, которые мы просматриваем напрямую зависит от PR вашего сайта".
Это привело нас к одной из самых главных проблем многостраничных сайтов — к проблеме индексации всех страниц.
Представьте, что сайт Amazon.com новый сайт, тогда сколько же времени потребуется Google чтобы проиндексировать все 48 миллионов страниц. И тут утверждение Мэтта Каттса о том, что это было бы не возможно, если у сайта не было бы бэклинков, является правдой.
Для эксперимента мы взяли домен без истории (никогда нигде ни регистрировался, ни одного бэклинка). Затем на этом домене мы создали страницу с 250 ссылками, ведущими на страницы с еще 250 ссылками и т. д. Ссылки и URL были пронумерованы от 1 до 250 в таком же порядке, как они идут в исходном коде.
Мы добавили URL в поисковик с помощью "addurl". Так как домен не имеет ни одной обратной ссылки (бэклинка) следовательно у него нет PR, либо он совсем ничтожен. Если же слова Мэтта Каттса действительно являются правдой, Googlebot должен практически сразу же остановить индексацию данного домена.
Количество просмотренных ботом страниц за первые 24 часа
Как видно из диаграммы, Googlebot начал просмотр сайта со скоростью примерно в 2500 страниц в час. Через три часа он замедлился до 25 страниц в час и с такой же скоростью продолжил просматривать сайт на протяжении последующих месяцев.



---------- Добавлено 05.12.2015 в 20:42 ----------

Поэтому быть может на тот сайт, который хорошо индексируется стоит жирная ссылка с главной, или сквозняк со всех страниц более-менее жирного сайта?

Продвижение в Яндекс и Google, сайты услуг/интернет магазины. Аудит сайта от 5000 руб. Skype: wskeal
CH
На сайте с 27.06.2011
Offline
88
#9

Скорость загрузки влияеи 100%. Если сайт "ложится" под ботом, то частота сканирования снижается.

Влияет еще директива crawl-delay в robots.txt, там может быть замедление.

A
На сайте с 25.10.2014
Offline
109
#10
Влияет еще директива crawl-delay в robots.txt, там может быть замедление.

бот игнорирует непонятные директивы

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий