Создание отказоустойчивого кластера для интернет-магазина (продолжение темы)

От какого рода отказов вы хотите защититься?

Если от отказов жестких дисков, то от них надежно защитит RAID с качественным контроллером.

От отказов блоков питания можно защитится взяв корпус с 2-мя блоками питания с возможностью их горячей замены без выключения сервера. Цена такого корпуса 1U Supermicro около 55 000 руб.

Другие отказы железа не особо актуальны, так как качественные сервера на качественных комплектующих работают годами без проблем.

Более актуальной проблемой (по сравнению с отказом качественного железа) может быть проблема с каналами связи в датацентре.

Проблемы с ними более вероятны чем с железом.

По статистике даже в надежных ДЦ 1-3 раза в год происходит какой то перебой, то со светом, то с каналами.

Мне кажется, что приемлемую отказоустойчивость можно обеспечить, если продублировать сайт в 2-х разных ДЦ.

Балансировку нагрузки между ними выполнять например через ДНС. (как вариант, вопрос обсуждается)

А синхронизацию базы данных между разными серверами средствами репликаций БД и средствами приложений.

Но здесь не обойтись без опытного специалиста на постоянной основе.

По нашему опыту, чаще всего выходят из строя диски SATA, но мы теперь их не используем. Зеркало с горячим резервом на третьем диске имеется. Была проблема и с выходим из строя блока питания, правда, не на нашем, а не арендованном сервере.

Проблем с выходом из строя вентилляторов, системных плат, памяти и сетевых интерфейсов пока не было, но хотелось бы защититься и от этого.

В идеале хотелось бы получить систему, в которой при выходе из строя целиком одного сервера работа была бы продолжена на другом. Ведь любое железо может выйти из строя, вот хотя бы перегрев при отказе кондиционеров в датацентре или случайное выдергивание шнура на одном из серверов... Опять же, плановое отключение серверов для профилактики без остановки работы системы.

Отказоустойчивость в рамках нескольких датацентров тоже интересна, но пока я не представляю себе, как сделать это для MySQL. MongoDB предоставляет такую возможность, но она не транзакционная. А в этом магазине не обойтись без использования транзакций для обработки части данных, например, данных складского учета.

Кроме того, интересно и масштабирование при росте нагрузки.

Александр Фролов добавил 06.09.2011 в 13:08

Вот да, а лучше бы компании, которая бы смогла обеспечить гарантированное обслуживание силами более чем одного специалиста, который может заболеть или уехать в отпуск.

На какой бюджет вы рассчитываете для создания отказоустойчивого решения?

Видимо, не очень большой, все же это оптовый интернет-магазин, а не газпром)

Однако мне нужно изучить различные архитектуры и решения, оценить бюджет и сделать предложение заказчику, а не наоборот - узнать сколько у заказчика денег и объявить об этом всем поставщикам решений. Чтобы они выставили ровно такую же цену)

Если денег хватит на решение от IBM, то хорошо, т.к. сервер приложений и MySQL можно сделать на этом решении, а при масшатбировании разносить по хостам, например, нетранзакционные данные MongoDB. А вот если денег не хватит, надо будет изучать различные предложения на базе кластера Linux и оценивать стоимость создания и сопровождения. Чем я, собственно, сейчас и пытаюсь заниматься...

Но пока мне попадаются только компании, которые либо делают кластеры на решениях Microsoft, либо не имеют опыта в создании и обслуживании кластеров MySQL.

Но как только Вы озвучите высокий бюджет, сразу появится куча желающих... наши реалии.

Насчёт тестов на неттопах. Если захотите виртуализацию использовать на них, имейте ввиду - не выйдет, они не поддерживают обычно необходимые инструкции.

Вообще я думал купить парочку неттопов, воткнуть их в свич и установить на все это Scientific Linux в кластере, апач и MySQL. Другие сервисы я могу отлаживать на виртуальных машинах, работающих на WmWare, сервер уже есть. А вот балансировку нагрузки на виртуалках даже и не знаю, стоит ли смотреть.

Если бюджет не большой, то качественный, мощный сервер с RAID и двумя блоками питания в хорошем датаценре, обеспечит достаточный уровень отказоустойчивости.

ИМХО распаралеливание работы на несколько серверов – задача не тривиальная, требует существенно больших затрат, а из за сложности и повышенного риска человеческого фактора, в результате надежность может оказаться даже ниже, чем работа на одном сервере.

так он не верит. опять такую же тему создал

Да я верю, что надежный сервер повысит надежность, но что будет, если мне, например, нужно забрать его на профилактику? Что если даже 10-минутный простой приведет к возникновению ущерба?

Кроме того, я верю, что даже самое надежное железо выходит из строя или может быть случайно испорчено, например, отключено от электропитания по ошибке, в результате чего будет повреждена файловая система и при перезагрузке он не поднимется. Всякое бывает..

Кстати, MongoDb плохо реагирует на аварийное завершение.

Я верю, что надежный кластер стоит хороших денег, но мне нужно подобрать подходящую архитектуру и оценить решение.

А пока я ставлю второй резервный сервер, но время простоя при ручном восстановлении данных из бекапов может составить часы.

Укажите бюджет на все это безобразие. На создание и поддержку.

Кроме того я вижу смысл сделать hp+ha кластер из четырех юнитов.

Andreyka добавил 06.09.2011 в 15:00

А, так нужно решение, а не реализация? У меня есть несколько наработок, свзязанных с электронной коммерцией. Если есть желание - обращайтесь.