crawl-delay на ботов

A8
На сайте с 23.02.2015
Offline
99
1037

Пришло письмо от хостера, что за последние 5 дней нагрузка на CP превысила лимит по тарифу (больше 65).

Скинули мне причину и рекомендуют поставить crawl-delay на ботов

70.7%: search.msn.com

20.8%: ch1sch02009aash.ntwk.msn.net

4.4%: YandexBot

2.9%: broadband.corbina.ru

0.7%: sputnik.ru

0.6%: GoogleBot

Можете мне перевести?)

PN
На сайте с 22.08.2012
Offline
103
#1

пропиши в robots.txt:


User-agent: *
Crawl-delay: 5
:)

5 - это 5 секунд, можно увеличить.

Мой совет помог? Не скупись! Bitcoin 1Lseddet1o1B6odgXQHbGaWGwRkt1Db8Ef Ethereum 0x450f1a17461e25194B7F9226cDEe70173F39e1e1
A8
На сайте с 23.02.2015
Offline
99
#2
proksey-net:
пропиши в robots.txt:

User-agent: *
Crawl-delay: 5
:)

5 - это 5 секунд, можно увеличить.

Т.е. не обязательно именно на бота msn?

PN
На сайте с 22.08.2012
Offline
103
#3
Alena87:
Т.е. не обязательно именно на бота msn?

да пусть на всех будет, не факт что другой бот не начнет часто заходить

G-and-Y
На сайте с 29.06.2013
Offline
185
#4

А я лучше б переехал на другой хостинг или впс, не известно как это повлияет на индексацию, переиндексацию сайта и не факт что все боты будут это параметр учитывать.

Абузо-устойчивые впс ( http://vps-hosting.lv/?p=13408 )
A8
На сайте с 23.02.2015
Offline
99
#5
G-and-Y:
А я лучше б переехал на другой хостинг или впс, не известно как это повлияет на индексацию, переиндексацию сайта и не факт что все боты будут это параметр учитывать.

Так дело в том, что проблема лишь у одного сайта на акаунте. Сайт никогда не продвигался, все по нулям, включая посещаемость. Каталога продукции еще нет. Что за атака ботов?

Crawl-delay: 30 не помогает, все равно хостер пишет о проблеме с превышением CP. Что делать, мб по ip как-то закрыть?

PN
На сайте с 22.08.2012
Offline
103
#6
Alena87:
Так дело в том, что проблема лишь у одного сайта на акаунте. Сайт никогда не продвигался, все по нулям, включая посещаемость. Каталога продукции еще нет. Что за атака ботов?
Crawl-delay: 30 не помогает, все равно хостер пишет о проблеме с превышением CP. Что делать, мб по ip как-то закрыть?

выложите ваш robots.txt

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий