Crawl-delay и Яндекс.

1 234
M
На сайте с 25.03.2009
Offline
44
#21

ТС, вы по ходу даже свой топик не читаете, один уже пристыдился своих знаний в математике...

Вы вообще в курсе для чего эта директива? вот вам цитата с яшкиного хэлпа (обратите внимание на выделенные участки):

Директива Crawl-delay.

Если сервер сильно нагружен и не успевает отрабатывать запросы на закачку, воспользуйтесь директивой "Crawl-delay". Она позволяет задать поисковому роботу минимальный период времени (в секундах) между концом закачки одной страницы и началом закачки следующей. В целях совместимости с роботами, которые не полностью следуют стандарту при обработке robots.txt, директиву "Crawl-delay" необходимо добавлять в группе, начинающейся с записи "User-Agent", непосредственно после директив "Disallow" ("Allow").

Поисковый робот Яндекса поддерживает дробные значения Crawl-Delay, например, 0.5. Это не гарантирует, что поисковый робот будет заходить на ваш сайт каждые полсекунды, но дает роботу больше свободы и позволяет ускорить обход сайта.
/ru/forum/comment/1592771 () =)
di_max
На сайте с 27.12.2006
Offline
262
#22
mlsha:
ТС, вы по ходу даже свой топик не читаете

Цитировать Я - все мастера.

А вот растолку-ка нам, плиз, что будет, если поставить:

Crawl-delay: 0

di_max добавил 15.12.2009 в 11:30

Talisman13:
Где по вашим логам Яндекс делает более 10 запросов в секунду?

10 в секунду? Ну это было бы явным нарушением Crawl-delay: 0.1

9 шт в секунду - самое оно.;)

Но суть-то не в этом...

// Все наши проблемы от нашего не знания...
neznaika
На сайте с 28.06.2006
Offline
356
#23

di_max, а где там указано, что можно дробные числа вводить?

Дорого покупаю настоящие сайты. Не инвестирую деньги и не беру кредиты.
den78ru
На сайте с 12.04.2006
Offline
396
#24

Всем зачёт. :) Ни читать, ни считать, только писать!

Но суть-то не в этом...

А в чём?

Люди не делятся на национальности, партии, фракции и религии. Люди делятся на умных и дураков, а вот дураки делятся на национальности, партии, фракции и религии.
Talisman13
На сайте с 20.01.2007
Offline
211
#25

neznaika, http://help.yandex.ru/webmaster/?id=996567#1022359

Поисковый робот Яндекса поддерживает дробные значения Crawl-Delay, например, 0.5. Это не гарантирует, что поисковый робот будет заходить на ваш сайт каждые полсекунды, но дает роботу больше свободы и позволяет ускорить обход сайта.

neznaika
На сайте с 28.06.2006
Offline
356
#26

P.s. и покажите в логах - где ползун делает больше 10 хитов? Максимум, что увидел 9 :)

Talisman13, спасибас :)

di_max
На сайте с 27.12.2006
Offline
262
#27
neznaika:
di_max, а где там указано, что можно дробные числа вводить?

Это место процитировали все кому не лень.;)

См. ниже(выше) пост от mlsha

di_max добавил 15.12.2009 в 11:39

den78ru, в PSS-2

den78ru
На сайте с 12.04.2006
Offline
396
#28
den78ru, в PSS-2

Уверен, этим заниматься никто не будет. Польза сомнительная.

Talisman13
На сайте с 20.01.2007
Offline
211
#29
di_max:
den78ru, в PSS-2

Хорошо... Понятно...

Но при чем тут директива Crawl-delay в начале топика, мне так и осталась не понятной.

M
На сайте с 25.03.2009
Offline
44
#30
di_max:
Цитировать Я - все мастера.
А вот растолку-ка нам, плиз, что будет, если поставить:
Crawl-delay: 0
Поисковый робот Яндекса поддерживает дробные значения Crawl-Delay, например, 0.5. Это не гарантирует, что поисковый робот будет заходить на ваш сайт каждые полсекунды, но дает роботу больше свободы и позволяет ускорить обход сайта.

из этого следует что робот яши может давать хиты по сайту с любым удобным ему интервалом более 0 секунд...

что смущает? такая запись может быть обработана спец исключением типо "шмурыгай сайт как тебе удобно" и это не будет означать, сиди на сайте безвылазно...

со спецификациями рсс не знаком и пока знакомиться не планирую т.к. надобности в этом для себя не вижу, поэтому не знаю какую там фичу вы хотите использовать, видимо хотите, либо утягивать инфу и быть с ней в топе, либо отдавать и не вылетать из топа (склоняюсь к первому), короче проблема первоисточника...

ПС: di_max, чтение между строк склонен считать не релевантным, т.к. один может домыслить одно, другой другое, а третий вспомнит, что давно пиво не пил...

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий