Дикая нагрузка на хостинг

D
На сайте с 18.06.2009
Offline
3
1266

Добрый день.

Может кто поможет, ибо в слегонца сломал голову.

Имеется ряд сайтов, преимущественно на WP, но есть и ModX, кэширование везде, обновлялки отключены. За сутки нагрузка на хостера составляет около 20-40%, реже когда 60%. Но за один час, примерно 9 часов, каждый день нагрузка достигает до 800-1000%.

Грешил на резервное копирование базы. Но она не делается в 9 часов. Бот САПы тоже не берет все сайты махом, а посещает их по отдельности... Вообщем Аксесс_лог ничего толкового не дал - все как и в другие часы.

Что можно попробовать стрясти с хостера, чтобы понять что же вызывает аццкую нагрузку в один лишь час...? Хостер infobox.ru

Заранее большое спасибо.

D
На сайте с 02.05.2009
Offline
68
#1

Смотрите логи, считайте статистику. Поймете, посещаемость это или глюки в скриптах.

http://www.differentlocal.ru (http://www.differentlocal.ru) http://differentlocal.habrahabr.ru (http://differentlocal.habrahabr.ru)
vedomir
На сайте с 01.07.2004
Offline
167
#2

1. В логах что? Может там попытка повалить сервер?

2. ModX иногда выкидывает номера типа загрузки процессора на 100%

Правда причины не устанавливались - был снесен нафиг.

D
На сайте с 18.06.2009
Offline
3
#3

vedomir, гм... а есть ли характерные признаки этого? Просто сапа-бота можно вычленить довольно просто - много запросов в маленькое время. А остальном просматривал логи 6ти сайтов(столько в акке) - ничего похожего на большое колличество запросов в одно время.

И так: а что можно попросить у хостинга? Логи Апача или что-то в этом духе?

ModX... блин :( Не хотелось бы его сносить....

Dreammaker
На сайте с 20.04.2006
Offline
569
#4

просите лог медленных sql-запросов у хостера.

D
На сайте с 18.06.2009
Offline
3
#5

Dreammaker, попробую. А то апач вежливо завернули.

У меня такой вопрос: если в роботе прописать:

User-agent: Yandex

Crawl-delay: 2

User-agent: *

Crawl-delay: 2

Или нужно еще что-то? Хочу снизить поисковую нагрузку от ботов.

vedomir
На сайте с 01.07.2004
Offline
167
#6
dfase:
vedomir, гм... а есть ли характерные признаки этого? Просто сапа-бота можно вычленить довольно просто - много запросов в маленькое время. А остальном просматривал логи 6ти сайтов(столько в акке) - ничего похожего на большое колличество запросов в одно время.

И так: а что можно попросить у хостинга? Логи Апача или что-то в этом духе?

ModX... блин :( Не хотелось бы его сносить....

Ну да , там на нем была сделана кнопка бабло. Но пришлось попросить ее убрать оттуда. Я предполагаю, что надо ограничить количество запросов от поисковых ботов. Потому что в логах та м ничего страшного и криминального не было. Возможно modx валится от каких-то своих же заумных запросов.

Hack_phoenix
На сайте с 04.04.2009
Offline
57
#7

Боты не ходят в одно и то же время. Как правило. CRON посмотреть?

...никто не узнает, как плачет ночью тот, кто идет днем по жизни смеясь... Хостинг. VPS. Мы работаем для вас. (http://hostace.ru).
Andreyka
На сайте с 19.02.2005
Offline
822
#8

Новый ужастик - "Боты приходят в полночь".

Не стоит плодить сущности без необходимости
Himiko
На сайте с 28.08.2008
Offline
560
#9

Как раз сапа очень часто наваливается на кучу сайтов разом.

вычислить можно по множеству запросов с несколких ip, а whois на ip-адрес показывает QWARTA.

На самом деле сапа может создавать намного большую нагрузку, чем поисковые роботы.

P.S.: Пример: был заход бота гугла на сервер, запросов выло раз в 10 больше, чем от сапы, но нагрузка была намного ниже.

Профессиональное администрирование серверов (https://systemintegra.ru). Круглосуточно. Отзывы (/ru/forum/834230) Лицензии (http://clck.ru/Qhf5) ISPManager,VDSManager,Billmanager e.t.c. по низким ценам.
D
На сайте с 18.06.2009
Offline
3
#10

Hack_phoenix, CRONа нету. Поэтому он исключается.

Andreyka, угу. Причем очень офигительный ужастик (последствия удручают).

Himiko, да есть подозрения на сапу. Посмотрим что скажет ТП сегодня, обещали присмотреть.

TO ALL:

Может кому поможет. Выставил Crawl-delay на 2 для Яшки и на 4 для остальных ботов. Нагрузка в обычные часы упала примерно в 2 раза (иногда с 60 до 5%). Как будут известны данные про 9 часов - отпишусь.

dfase добавил 18.08.2009 в 13:12

Вобщем походу таки сапа+поисковые боты. Кроул спас.

Всем большое спасибо, если что взял на заметку что требовать и что трясти с хостера.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий