Как работает паук гугля?

Keal
На сайте с 24.05.2007
Offline
129
1093

Объясните кто-нибудь подробно как работает паук гугля?

Часто бывает, что робот попадает по какой-нибудь ссылке на морду, а потом смотришь и она появилась в индексе, а почему не появляются сразу внутренние страницы на которые ведут ссылки с морды?

Или паук не ходит по ссылкам? Т.е. он заходит на морду, собирает все ссылки и "кидает" урлы в конец очереди, затем он уходит и только потом, когда дойдет очередь он опять зайдет, но только уже на внутренние, минуя морду?

Я понимаю, что алгоритм их работы это своего рода ноу-хау и поисковики этой инфой не делятся, но все же может кто просматривал логи, делал какие-нибудь наблюдения за пауком гугля?

Я по своим логам смотрю и вижу что googlebot ходит по моим сайтам практически каждый час, иногда реже иногда даже два раза в час заходит, только я так и не пойму че он там делает))

И еще не понятно почему внутренние страницы появляются в индексе по одной, а не сразу пачками, че он тогда ходит по сайту сто раз на день?)

Продвижение в Яндекс и Google, сайты услуг/интернет магазины. Аудит сайта от 5000 руб. Skype: wskeal
mnogolinkov
На сайте с 26.03.2007
Offline
35
#1

Так, прямо в Гугл и напишите, вопросы)). Они точно знают, что да как с их ботом)).

Кто умеет - делает, кто не умеет - учит. Бернард Шоу
Keal
На сайте с 24.05.2007
Offline
129
#2

Весело конечно, но хочется что-нибудь более конструктивное)

V
На сайте с 20.02.2009
Offline
2
#3

а попробуй скармливать ему сайт-мап

cpa-marketing.info
Keal
На сайте с 24.05.2007
Offline
129
#4

veligursky, скормил сайтмап очень давно, а он все равно внутряки по одной в индекс добавляет, т.е. была только морда, потом добавил пару внутренних, потом через пару дней еще три внутренних, потом еще десять ну и т.д. Правда сайт сам по себе маленький, страниц 40, может поэтому гугл так медленно и добавляет. Было бы 10к страниц наверняка добавлял бы пачками.

Просто я сколько сайтов не запускал всегда наблюдал такую картину что сначала в индекс попадает одна морда, а потом через пару дней остальные подтягиваются, никогда еще не было так, что сразу пачка страниц нового сайта добавилась.

V
На сайте с 20.02.2009
Offline
2
#5
Keal:
veligursky, скормил сайтмап очень давно, а он все равно внутряки по одной в индекс добавляет, т.е. была только морда, потом добавил пару внутренних, потом через пару дней еще три внутренних, потом еще десять ну и т.д. Правда сайт сам по себе маленький, страниц 40, может поэтому гугл так медленно и добавляет. Было бы 10к страниц наверняка добавлял бы пачками.

Просто я сколько сайтов не запускал всегда наблюдал такую картину что сначала в индекс попадает одна морда, а потом через пару дней остальные подтягиваются, никогда еще не было так, что сразу пачка страниц нового сайта добавилась.

тогда смежный вопрос -а насколько были жирными странички на которых ты бек оставлял?

Есть мнение что чем жирнее бек и чем чаще там пасутся пауки тем быстрее индексируются внутренние странички, так же говорят что пинг и rss помогают в более быстрой индексации внутренних страниц

El_grapaduro
На сайте с 01.09.2008
Offline
288
#6
Как работает паук гугля?

Хорошо и быстро.

Бесплатный курс по SEO продвижению и аудиту сайтов (http://webimho.ru/topic/11569/) Лучший Anti-DDos хостинг в Европе за 10 евро в год. (https://ru.alexhost.md/) icq: 394375320
Keal
На сайте с 24.05.2007
Offline
129
#7

veligursky, бэки были совсем обезжиренные)) со всяких соц. закладок и т.д.

я еще замечал такую вещь, что сама ссылка индексируется быстро, т.е. страница с ссылкой, та что на соц. закладках, а вот страница-акцептор куда ведет ссылка с соц. закладки попадает в индекс не сразу.

Возможно, если поставить ссылку с пр5 хорошего ресурса то гугл сразу весь сайт в индекс вобьет за две минуты без промедлений))

Единственное, что у меня сразу проиндексировалось так это блог на гугл платформе, может быть это из за того что блоги шлют пинг автоматом при создании поста, да и вообще к блогам у гугля отношение другое имхо, он специально там пасется постоянно, чтоб новую инфу быстрее всех в индекс пихать, а то вдруг че важное пропустит))

V
На сайте с 20.02.2009
Offline
2
#8
Keal:
veligursky, бэки были совсем обезжиренные)) со всяких соц. закладок и т.д.

я еще замечал такую вещь, что сама ссылка индексируется быстро, т.е. страница с ссылкой, та что на соц. закладках, а вот страница-акцептор куда ведет ссылка с соц. закладки попадает в индекс не сразу.
Возможно, если поставить ссылку с пр5 хорошего ресурса то гугл сразу весь сайт в индекс вобьет за две минуты без промедлений))

Единственное, что у меня сразу проиндексировалось так это блог на гугл платформе, может быть это из за того что блоги шлют пинг автоматом при создании поста, да и вообще к блогам у гугля отношение другое имхо, он специально там пасется постоянно, чтоб новую инфу быстрее всех в индекс пихать, а то вдруг че важное пропустит))

у меня на блоге есть порядка 5 постов связанных с индексацией, почитай

День 20. Карта сайта

Когда будут результаты от поисковой оптимизации? (1,2,3)

День 13. Индексирование всех страниц в поисковиках. Блог и пинг.

lad
На сайте с 04.09.2006
Offline
31
lad
#9
El_grapaduro:
Хорошо и быстро.

У меня есть сомнения по этому поводу.

Был незаконченный сайт, я его закрыл от индексации, когда закончил открыл, гугле в течении 10 дней не заходил вообще!.

Пошел на крайние меры, удалил сайт из поиска, потом заново добавил и карту сайта загрузил, что имею:

- опять проиндексирована только главная, несколько тегов, несколько профилей пользователей, десяток коротких новостей по 1000 символов.... а вот около трехсот статей (100% уник) от 10000 - 20000 символов, которые я очень хочу увидеть в индексе НЕТ!

И что думать теперь про хваленный гугле?!?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий