Можно ли заставить робота зайти на сайт?

1 234
@
На сайте с 09.12.2003
Offline
134
#21
AiK:
С того, что с распространением CGI бОльшая часть страниц перестала иметь данный заголовок. Ну и манипулировать им уж очень легко :)

Да? Ну может быть Вы и правы :)

У меня все CGI скрипты такой заголовок отдают, да еще и IF_MODIFIED_SINCE отрабатывают.

Знаете, очень помогает управлять индексацией, и я не заметил чтобы Яндекс игнорировал "HTTP/1.0 304 Not Modified".

Antony69
На сайте с 16.09.2004
Offline
146
#22
@uthor:
Знаете, очень помогает управлять индексацией, и я не заметил чтобы Яндекс игнорировал "HTTP/1.0 304 Not Modified".

Полностью согласен. Эти заголовки в том числе и для этих целей были придуманы с чего их поисковикам игнорировать.

Заметки SEO аналитика (http://www.seonotes.ru)
K
На сайте с 11.05.2005
Offline
7
#23
Как часто обновляется сайт, изменяется главная страница, добавляются новые страницы?

А к кому адресован этот вопрос???

;)
K
На сайте с 11.05.2005
Offline
7
#24
Периодически контент обновлять надо, ходить будет чаще. Смысла повторно переиндексировать неизменившееся нет.

В том то и дело что контект постоянно меняется или обновляется, что-то новенькое появляется

[Удален]
#25
Cafe D'Or:
Не согласен.

А как по Вашему робот узнаёт о Вашем сайте, из воздуха он его берёт что ли?, или может он перебирает все возможные домены и заходит на них? :) Робот попадает на Ваш сайт по ссылке с уже проиндексрованного им сайта. :)

[Удален]
#26
@uthor:
Да? Ну может быть Вы и правы :)
У меня все CGI скрипты такой заголовок отдают, да еще и IF_MODIFIED_SINCE отрабатывают.
Знаете, очень помогает управлять индексацией, и я не заметил чтобы Яндекс игнорировал "HTTP/1.0 304 Not Modified".

Можно поодробнее о этих заголовках? что это такое, где как и зачем делаеться? - я не вкурсе, оч. интересно 🙄 плиззз

K
На сайте с 24.12.2003
Offline
73
#27
Так самое интересное, что новые сайты все быстро попали в Яндекс, а вот на сайт, которому почти 7 лет, вдруг перестал заходить робот.

Такое бывает...

Магазин аккаунтов с балансом Litres,DNS,Ozon,Rotapost и еще 50+ других сервисов тут - vk.cc/7QK0Sk
AiK
На сайте с 27.10.2000
Offline
257
AiK
#28

У меня все CGI скрипты такой заголовок отдают, да еще и IF_MODIFIED_SINCE отрабатывают.

Давайте не смешивать мух с котлетами. Заголовок Last-Modified можно получить только закачав весь документ целеком (запросов HEAD от индексатора яндекса я как-то не видел). Если при этом ещё отслеживать изменился ли контент существенно или только блок новостей (а Яндекс это делает), то планировать следующий визит нужно на основании реальных изменений страницы, а не фиктивного изменения заголовка. Вывод - Last-Modified никоим образом не сказывается на переиндексации и тем более на первичной индексации.

и я не заметил чтобы Яндекс игнорировал "HTTP/1.0 304 Not Modified".

Ещё бы он его не игнорировал, ведь он получает только заголовок, но не содержимое страницы :)

Игнорировать он может разве что ETag, чего не делает, т.к. передавая этот заголовок он экономит трафик на закачке неизменившихся документов.

Но что проиходит в этом случае? Мы просто _замедляем_ переиндексацию одних документов, давая шанс роботу про/переиндексировать другие документы.

Это имеет смысл делать только на больших, очень динамично изменяющихся сайтах, который при этом содержит и редкообновляемые страницы. Большой - это несколько тысяч страниц.

SS
На сайте с 10.05.2005
Offline
17
#29
minaton:
Как часто обновляется сайт, изменяется главная страница, добавляются новые страницы?

Какое значение имеет для робота частота изменения контента на главной странице?..

minaton
На сайте с 18.09.2004
Offline
135
#30
Какое значение имеет для робота частота изменения контента на главной странице?..

Чаще будет приходить, индексировать, по ссылкам ходить :)

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий