в роботс добавили запись

12
M2
На сайте с 10.08.2010
Offline
26
1085

Прветствую формучан. Хостеры в роботс добавили следующую запись:

Crawl-delay: 10

Request-rate: 1/5

Visit-time: 0100-0800

На вопрос хостеру почему постоянно добавляется эта запись ответили:

Мы добавляем сами такие строчки, если поисковые системы создают большую нагрузку при индексации Вашего сайта.Не меняйте и не удаляйте эти строчки, в них нет ничего плохого.

Индексация будет производиться в ночное время, когда меньше нагрузки на сервере.

Скажите пожалуйста так ли это, в смысле в этом нет ничего плохого? Или это может сказаться на сайте. Заранее благодарен.

6666
На сайте с 10.01.2005
Offline
505
#1

Maxat2050, если хостер не выдерживает поисковых роботов, может есть смысл поискать нормальный хостинг?

Maxat2050:
Crawl-delay: 10

0.5 - 2 еще более менее

Maxat2050:
Request-rate: 1/5
Visit-time: 0100-0800

Не знаю какие роботы такую фигню поддерживают )

---------- Добавлено 03.05.2013 в 09:30 ----------

ПС не говоря о том, я что от хостера, который без спроса меняет роботс.тхт я бы сбежал, наверное.

Каждое мое сообщение проверила и одобрила Елена Летучая. (c) Для меня очень важно все что Вы говорите! (http://surrealism.ru/123.mp3) .
M2
На сайте с 10.08.2010
Offline
26
#2
6666:
Maxat2050, если хостер не выдерживает поисковых роботов, может есть смысл поискать нормальный хостинг?


0.5 - 2 еще более менее


Не знаю какие роботы такую фигню поддерживают )

---------- Добавлено 03.05.2013 в 09:30 ----------

ПС не говоря о том, я что от хостера, который без спроса меняет роботс.тхт я бы сбежал, наверное.

Значит все-таки вредит? У меня в яндексе в 5 раз уменьшилось страниц в индексе - это может быть в связи с этим изменением в роботсе?

[Удален]
#3
6666:
может есть смысл поискать нормальный хостинг?

Дык это вааще отжиг... ))

Какой-то там хостер (коему платиццо бабло) лезет и редактирует без спросу - афигеть

site+
На сайте с 19.11.2009
Offline
148
#4

А что за хостер?

Размещение статей на 300+ сайтах всего за 80$! Инновационное предложение! ( /ru/forum/874956 )
M2
На сайте с 10.08.2010
Offline
26
#5
site+:
А что за хостер?

Хостер Казахстанский hoster.kz

Милованов Ю.С
На сайте с 24.01.2008
Offline
196
#6
Maxat2050:
Хостер Казахстанский hoster.kz

фу-фу, брось каку(с) Быков

Я бы еще на него написал заявление в милицию, о нанесении материального вреда

Подпись))
-S
На сайте с 10.12.2006
Offline
1354
#7
Милованов Ю.С:
Я бы еще на него написал заявление в милицию, о нанесении материального вреда

Какой материальный вред нанесли?

SX
На сайте с 15.07.2008
Offline
79
#8

6666, всё зависит от сайта...

у меня был сайтец самопис (на обычном хостинге (шаред)) - гуглбот жил на сайте, в мес трафа накручивал до 200GB(только он)+~30-50GB(остальные). хостер время от времени отключал БД из-за ОЧ большой нагрузки. хостер буржуйский один из лучших (на мой взгляд).

вынужден был сильно понижать частоту сканирования через вебмастерс -> тогда нагрузка была примерно до 350-400...

т.к. сайт особой ценности из себя не представлял -> отключил сайт, через недельку повесил ВП с парой страниц (без особых наворотов - лёгкая тема, плагины - сайтмап и пагенави) и тут опять нагрузка начала прыгать.

по началу не понимал в чём дело.. т.к. работы на хостинге проводились только с этим сайтом (по логам гуглбот шалил) - решил отключить его -> нагрузка снизилась до 200

это насчёт ботов ;)

был случай с другим хостером (шаред хостинг) - в роботс запрещали гуглбота, несколько раз удаляли думали взломали конкуренты - пока хостер не запретил делать изменения в роботсе :) - в итоге перешли на ВПС..

Maxat2050 - по идее ничего плохого нет сказать ботам посещайте меня ночью (по гринвичу) и не так часто сканируйте, но на практике может быть не совсем айс... если видите спад трафа, индекса и т.д. лучше менять тариф или хостера...

богоносец
На сайте с 30.01.2007
Offline
774
#9
SpaceX:
по идее ничего плохого нет сказать ботам посещайте меня ночью

Это в ихних хелпах как-то описано?

SX
На сайте с 15.07.2008
Offline
79
#10

богоносец - собственное мнение

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий