Периодичность индексации и объем.

1 23
wolf
На сайте с 13.03.2001
Offline
1183
#21
А как же смена контента?

Чтобы узнать, изменился ли контент, документ надо скачать. А, значит, места в квоте на кол-во забираемых документов, станет меньше.

Сергей Людкевич, независимый консультант, SEO-аудиты и консультации - повышаю экспертность SEO-команд и специалистов ( http://www.ludkiewicz.ru/p/blog-page_2.html ) SEO-блог - делюсь пониманием некоторых моментов поискового продвижения ( http://www.ludkiewicz.ru/ )
Григорий Селезнев
На сайте с 25.09.2001
Offline
298
#22

Сергей,

скорее всего Яндекс использует двух-ходовку для выяснения обновимости документа ... он не случайно делает HEAD с If-Modified-Since ...

просто первых ход - техническя проверка изменения, а уже при реальной загрузке документа (при первом ответе "документ изменен") - логическая и текстовая проверка изменимости ... и, скорее всего, изменение дизайна (без навигации) яндексу "не скажут" что документ был изменен ...

LM
На сайте с 30.11.2001
Offline
71
LiM
#23
Как писал Master99
Не вижу связи. По идее, при добавлении нового материала на сайт он анонсируется на главной странице, где держится достаточно времени, чтобы робот мог понять, новое это или нет. Вовсе не обязательно обходить заново все страницы.

Не забывайте, что индексирующий робот с каждым заходом еще и проверяет на наличие изменений уже проиндексированные страницы. При большой массе сайта, таких проверяемых страниц становится много и скорость индексации новых сильно замедляется.

Бороться с этим можно через наличие поля Last-Modified, о чем уже было тут сказано, - заметно помогает.

С уважением, Андрей Хроленок. Загляни в FAQ по оптимизации и продвижению сайтов (http://www.seoman.ru/FAQ/) Анализатор страниц сайтов (http://www.seoman.ru/analizer/)
M9
На сайте с 20.01.2001
Offline
65
#24
Как писал LiM

Не забывайте, что индексирующий робот с каждым заходом еще и проверяет на наличие изменений уже проиндексированные страницы. При большой массе сайта, таких проверяемых страниц становится много и скорость индексации новых сильно замедляется.
Бороться с этим можно через наличие поля Last-Modified, о чем уже было тут сказано, - заметно помогает.

Все верно, то что нужно Last-Modified - поддерживаю. Но не нужно забывать и о том, что даже при корректном Last-Modified, если страницу запихнули далеко глубоко, робот также долго не сможет ее найти и узнать об ее обновлении(существовании). Так что нужно и Last-Modified и вынос на гл. страницу (или у кого что, главное чтобы роботу легко добраться было)

С уважением, Павел Ряйкконен. Игры от НевоСофт (http://www.nevosoft.ru) Раскрутка.Net - реклама, маркетинг, поисковые системы (http://www.raskrutka.net)
A
На сайте с 23.11.2000
Offline
166
#25
Как писал Petric
нет смысла делать сйт объемом больше 600-800 страниц, а как же тогда все рагзговоры по поводу увеличения контента и.т.п.???

Контент - контентом, а анализ анализом. Из Яндекса можно получить информацию о 5000 проиндексированных на сайте страницах, из Google - 1000. Они покажут общую цифру проиндексированного, но реальные адреса - увы. Если реального разного контента настолько много, лучше, дойдя до 1000 страниц на одном сайте, создать другой.

AiK
На сайте с 27.10.2000
Offline
257
AiK
#26
Если не будет настроен Last-Modified в заголовке отклика сервера, то робот не сможет узнать, изменялась страница или нет со времени ее предыдущей переиндексации и будет вынужден забрать ее снова.
скорее всего Яндекс использует двух-ходовку для выяснения обновимости документа ... он не случайно делает HEAD с If-Modified-Since ...

Джентельмены, не подскажите какой из ботов Яндекса делает запрос HEAD?

Я только закладочника в своих логах с таким типом запроса наблюдаю...

1 23

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий