Яндекс игнорирует Crawl-delay?

Lor
На сайте с 28.05.2004
Offline
352
Lor
972

YandexBot/3.0; +http://yandex.com/bots дергает сайт чаще чем раз в секунду, хотя в роботе прописано:

User-agent: *

Crawl-delay: 1

Что-то я не понимаю.

Йопез - форум без модераторов. https://yopez.com
[Удален]
#1

Lor, попробуй секцию специально для яндекса прописать. У него сейчас глюков выше крыши - вдруг поможет.

Lor
На сайте с 28.05.2004
Offline
352
Lor
#2

Ладно, будем пробовать.

[Удален]
#3

Ну и увеличь. А то вдруг у него даже секунды другие)))

J4
На сайте с 21.05.2009
Offline
99
#4

А вы уверены, что это точно Яндекс делает запросы, а не чей то парсер с прописанным User-Agent Яндекса?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий