Hostgator банит робота Yandex

vandamme
На сайте с 30.11.2008
Offline
675
#41
LineHost:
Сладкое слово - Unlimited....

взял как то во франции у крупного хостера, как тока посещалка стала человек 30-50 так сразу suspended - высокая нагрузка :)

V
На сайте с 05.02.2010
Offline
99
#42
Globusnik:
Хотелось бы получить небольшую консультацию.

Ограничения реально существуют, по крайней мере на количество файлов на одном аккаунте - не более 250 000 (у хостмонстера и ряда других - до 50 000).
Планирую разместить около 100 ГС под сапу. Никакого адалта и т.п. Посещаемость каждого сайта 10-50-100 уников в сутки, сделаны на вордпрессе. Никаких файлов для скачек, ресурсоемких скриптов и т.п. Каждый сайт - это 1000 файлов вордпресса + картинки в статьях. Все вместе не более 2000 файлов, так что в лимит по файлам втискиваюсь.
Ограничение на трафик у хостгатора вроде как 900 Гб в месяц. Сейчас у меня примерно 40-50 Гб. С этим тоже проблем не должно возникнуть.
А вот интересно как будет с нагрузкой на CPU? На старом хостинге превышения ни разу не было.

Да, ограничение на кол-во файлов есть (250 000), если укладываешься в этот лимит, то норм. Ограничений по Гб и трафику, по моему, реально нет. Что касается нагрузки на CPU - у меня там один СДЛ, посещалка 4к в сутки (в осенне-зимний период до 7к), никаких проблем с нагрузкой никогда не возникало, в отличие от РБК - когда хостился там, то уже при 500 униках начали отключать по нагрузке и предлагать VPS, потому и сбежал к гаторам. Эдалт, слышал, не приветствуется, но если его нет то все норм. В общем, мне кажется, что 100 твоих ГС прекрасно уживутся.

G
На сайте с 01.04.2008
Offline
109
#43

Пообщался только что с сапортом хостгатора в чате посредством гуглопереводчика, вот такой корявый диалог вырисовался:

Your question is, "Hello, in early April was such a situation - Hostgator blocks (bans) search robots from direct.yandex.ru and yandex.ru. Today the situation has changed or search robots of Yandex still blocked?"

(02:09:51 PM) Chase Wa: Welcome to HostGator LiveChat. I'd be glad to assist you today.
(02:10:34 PM) Chase Wa: Are you asking if search bots are still blocked?
(02:10:57 PM) Oleg: yes
(02:12:02 PM) Chase Wa: Did you have it blocked in a ticket?
(02:12:42 PM) Chase Wa: I don't see any robots.txt file in your account blocking them.
(02:13:03 PM) Oleg: No, I just plan to move my sites to hostgator
(02:13:05 PM) Chase Wa: There is one here: http://direct.yandex.ru/robots.txt
(02:13:21 PM) Chase Wa: But direct.yandex.ru isn't resolving to our server, it is resolving to 213.180.204.26
(02:15:09 PM) Oleg: Yandex - Russia's largest search engine and webmasters from Russia are guided by it, but not on Google. So this question I am interested in
(02:15:52 PM) Chase Wa: Oh ok, so are you wondering if Yandex is blocked from our servers?
(02:17:56 PM) Oleg: In Russia, many say that hostgator blocks Yandex. That piece of correspondence

07 april 2011
(01:23:30 PM) David Fi: What can I help you with?
(01:23:42 PM) You: Hostgator blocks (bans) search robots from direct.yandex.ru and yandex.ru. Can you change this?
(01:25:39 PM) David Fi: No we cannot
(01:26:17 PM) You: Yandex is number one search service in Russia, why?
(01:27:07 PM) David Fi: We have some partnership with google

(02:18:54 PM) Chase Wa: What is the Chat ID for that? It should be at the top of the transcript?
(02:20:07 PM) Oleg: /ru/forum/619579
(02:20:30 PM) Chase Wa: I am checking on this for you right now. Thank you for your patience.
(02:21:16 PM) Oleg: I want to be sure that my sites are hosted on hostgator will easily indexed by the search engine Yandex.
(02:24:12 PM) Chase Wa: No problem, we're always here to help.
(02:24:17 PM) Chase Wa: ANd I am checking on it right now.
(02:25:11 PM) Chase Wa: It is not blocked right now.
(02:25:38 PM) Oleg: Ok, thanks a lot

Получается на сегодняшний день никаких блокировок нет. Хотя вот эта фраза

(02:13:21 PM) Chase Wa: But direct.yandex.ru isn't resolving to our server, it is resolving to 213.180.204.26

Они яндекс директ блокируют что ли? Видят в нем конкурента гугл эдсенсу?

V
На сайте с 05.02.2010
Offline
99
#44
Globusnik:
Они яндекс директ блокируют что ли? Видят в нем конкурента гугл эдсенсу?

У меня на сайте есть Директ, ничего не блокируется и бот директа тоже. Что касается этой фразы

But direct.yandex.ru isn't resolving to our server, it is resolving to 213.180.204.26

То, мне кажется, вы просто по началу не поняли друг друга. Он говорит, что у поддомена direct.yandex.ru нет разрешения на сервер хостгатора (в смысле, что он там не расположен), а имеет разрешение или решение (по русски просто расположен) на IP 213.180.204.26 (ip Яндекса). Другими словами, что direct.yandex.ru - это поддомен yandex.ru. Просто парень из поддержки не сразу понял вопроса и вы говорили о разных вещах.

M
На сайте с 14.05.2008
Offline
56
#45
Globusnik:
Изменилась ситуация с баном роботов яндекса или до сих пор блокируют? А то собрался переезжать к хостгатору, теперь вот в размышлениях.

уфф... не знаю, успею ли вам помочь, однако: ситуация не изменилась, стало только очень хуже:

Долгое время (более 3-х лет) размещаюсь у ХостГатора (несколько не очень слабеньких сайтов, один из которых - сайт информ-агентства). До момента 3 дня назад я был во всем доволен хостингом, рекомендовал налево-направо. Думал, что лучше уже не найти для текущих моих запросов.

Однако.. теперь говорю: валите все с гатора, пока не поздно, особенно, если вы работаете в расчете на русскоязычную аудиторию и вам особенно важна индексация в Yandex!

Только один пример: мой новостной сайт - постоянно индексируется в минуты - благодаря подключению к Яндекс.Новостям, постоянный уверенный стабильный рост посещаемости ... до момента апреля сего года (посмотрите даты первых постов этого топика)

Далее - к сему моменту спад посещаемости более, чем в 3.5 раза!!!

Я не сразу понял причины - на хостинг грешил в последнюю очередь, пока все не стало очень критично и наконец-то в панели Яндекс.Вебмастер не появилось тревожное сообщение:

Из-за настроек сервера ... робот Яндекса не мог получить к нему доступ и сайт не был проиндексирован. Уточните у Вашего хостинга не был ли блокирован IP робота ...

Уточнил, выяснил: роботы Яндекса блокируются, якобы

по причине неуважительного отношения к ограничительным правилам, записанным в robots.txt 
и разблокировать их провайдер не собирается.

Особенно меня удивила поддержка, которая до сих пор все вопросы решала в секунды и обязательно в пользу клиентов - теперь не помогли никакие доводы - они изменились до неузнаваемости, даже в текстовых ответах была заметна некоторая нервозность, они резонно напряглись, боялись, что их теперь уже слишком очевидную продажность гуглу не поймут.

А мои сайты просто выпали из индекса, совсем - все на аккаунте.

Цитата из моего обращения в Яндекс по данному вопросу:

добрый день!
Да, вам лучше разместиться на другом хостинге

Мой итог: я ухожу с гатора совсем и никому никогда их уже не порекомендую: сейчас я благодаря им уже потерял и еще потеряю много времени на переносе сайтов

а также могу потерять реальные деньги.

В связи с этим вопрос:

Знает ли кто из пользователей других западных хостеров о схожих проблемах? Кто чем пользуется, можно отписаться хоть в личку, хоть здесь. Только пишите, если ЕСТЬ проблемы, а не когда их нет, пожалуйста.

maximoom добавил 21.07.2011 в 21:47

Цитата из моего обращения

ошибся - Цитата из ответа на мое обращение, конечно

V
На сайте с 05.02.2010
Offline
99
#46
maximoom:
Далее - к сему моменту спад посещаемости более, чем в 3.5 раза!!!
Я не сразу понял причины - на хостинг грешил в последнюю очередь

Так ведь должны же были быть какие-то симптомы. Вот вы говорите, что не сразу поняли причины такого падения и только сейчас осознали, что во всем виноват хост. Так ведь это должно же было как-то реально проявляться, были же какие-то симптомы. К примеру, необоснованный вылет из индекса большого количества страниц, падение позиций и, как следствие, падение трафика. Или у вас индексация и позиции все это время были без особых изменений, а трафик взял и упал? Тогда где логика и причем здесь хост? Трафик с апреля не только у вас падает - лето...., это явление глобальное.

С апреля слежу за темой, но реального подтверждения блокировки гатором ботов Яндекса пока не вижу. Периодически смотрю логи - ходит Яндекс по сайту. Либо на гаторе блокируют Яндекс-боты как-то избирательно и до меня очередь не дошла? Есть реальные люди, которые ушли с гатора по этой причине?

CM
На сайте с 24.03.2009
Offline
136
#47
voldcher:
Так ведь должны же были быть какие-то симптомы. Вот вы говорите, что не сразу поняли причины такого падения и только сейчас осознали, что во всем виноват хост. Так ведь это должно же было как-то реально проявляться, были же какие-то симптомы. К примеру, необоснованный вылет из индекса большого количества страниц, падение позиций и, как следствие, падение трафика

Какой смысл перетерать это уже в десятый раз здесь? Вас ведь человек предупредил, что в логах Я.Вебматстера сообщение о блокировании ботов ПС Яндекс.

Конечно, если Вы хотите, можете еще подождать и посмотреть за своими сайтами здесь - выпадут ли. Но, что-то мне подсказывает, что сайтов на хостгаторе у Вас нет, и Вы просто флудите.... эксперименты за чужой счет у нас в большом почете как я вижу...

V
На сайте с 05.02.2010
Offline
99
#48
Cesar_Mt:
Вас ведь человек предупредил, что в логах Я.Вебматстера сообщение о блокировании ботов ПС Яндекс

На хостгаторе сотни наших сайтов и подобные сообщения должны были появиться ни в одном аккаунте. Отсюда и вопрос - были ли подобные сообщения в других аккаунтах? Не могут же гаторы блокировать боты Яндекса избирательно.

Cesar_Mt:
Но, что-то мне подсказывает, что сайтов на хостгаторе у Вас нет, и Вы просто флудите....эксперименты за чужой счет у нас в большом почете как я вижу...

На хостгаторе полтора года, потому и слежу за темой. Никого и никаких экспериментов я ставить не просил. Просто хочу выяснить, что это - локальные глюки хоста или всеобщая тенденция?

M
На сайте с 14.05.2008
Offline
56
#49
voldcher:
Есть реальные люди, которые ушли с гатора по этой причине?

Я ухожу - уже ушел на 70% - за выходные планирую уйти на все 100, иначе - деньги потеряю.

voldcher:
причем здесь хост?

Притом, что Яндекс пробил тревогу, а Гаторы сами признались и подтвердили:

(05:22:57 PM) Mark Cl: As I said, this search engine was not following standards, when reading the robots.txt file. We had to block it.
voldcher:
это должно же было как-то реально проявляться ... Либо на гаторе блокируют Яндекс-боты как-то избирательно

Проанализировав ситуацию, я решил, что: 1)избирательно по ботам 2)избирательно по времени

Кстати, именно поэтому привел статистику по падению именно новостного ресурса - там число юников зависит не столько от числа проиндексированных сообщений, сколько от числа своевременно проиндексированных новых-актуальных именно сейчас сообщений - специфика области. Чем раньше их учел бот - тем раньше они будут появляться в выдаче по запросу людей в Яндексе - тем больше ежедневный трафик. Проиндексированы хотя бы на час позже - и они уже никому неинтересны.

Иными словами - была бы такая же жесткая блокировка как сейчас с самого начала - мы бы ушли в ноль моментально, за пару недель.

Но - гатор блокировал все умно - постепенно, с повышением дозы - без предупреждения, подло - если сказать по сути - потому и падение поначалу напоминало "сезонный спад"

Верхний пик посещаемости пришелся на последнюю неделю марта, далее - волнообразный, но уверенный спад.

Вплоть до июня мне казалось это сезонным явлением, а позже сказалась загруженность другими проектами, времени подробно во все вникнуть не было.

Итог - ни одной страницы в поиске из более чем 110000 загруженных роботом. И это все - результат только по одному сайту.

Ну и - я уже цитировал рекомендацию из службы Я.Новости в ответ на мой вопрос, необходима ли смена хостинга:

Да, вам лучше разместиться на другом хостинге
voldcher:
до меня очередь не дошла?

Вам пока повезло, искренне желаю, чтобы не только пока, мне - так не повезло.

G
На сайте с 01.04.2008
Offline
109
#50

Сейчас все сайты мои на хостгаторе открываются слишком долго, некоторые не открываются вовсе. По ФТП заходит в корневой каталог, дальше - сбрасывает соединение. В С-панель зайти не могу. На сайт хостгатора заходит нормально. Вот пытаюсь выяснить у сапорта в чем дело.

Написали вот такое

Our administrators are currently aware of the situation and are working as quickly as possible to restore services. Unfortunately I have not been told what the cause of the issue is, so I would not be able to provide an exact time frame as to when this will be resolved. However I can assure you that we do have admins actively working on this problem, thank you for your patience and understanding.

Проклятье, в пятницу вечером и проблемы со всеми сайтами :(

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий