vase

Рейтинг
18
Регистрация
18.07.2008
Romka_Kharkov:
Ок, попробую с доступом что дал ваш товарищ. Схема почти понятная я не особый спец в программировании... Попробуем, почитаем еще.



Насчет RAM FS я понимаю , но ! опять же креш ядра..... это не совсем то, что ожидалось увидеть реально, пусть бы оно вывалило корку от процесса или написало ошибку, но блин креш ВПС-а из за записи в память это как бы ЫЫЫЫыы.


Вот тут и беда, я согласен полностью с вами, многие программы просто не рассчитаны на масштабирование, я прекрасно понимаю например как сейчас разделить ресурс частями , видео , аудио, картинки и все прочее, но к сожалению нет движков которые заточены под такие технологии, все как-то узурпировано под 1 тазик физический, это бред.... А так сделать двиг из собственных API по раскладыванию скажем сайта на разные участки кластера - уже будет выигрыш в производительности не кислый... Может огранизуем какую-то группу и на свободных началах напишем какой-то движок заточенный под Cloud / Farm / Cluster... ? Выслушать бы пользователей которые пользуются движками.... я конечно опыта много имею в администрировании хостингов и всего прочего но с самими движками как понимаете сталкиваюсь весьма опосредованно...... По этому всех тонкостей и деталей не знаю, кто-то писал что в WP например есть модуль который UPLOAD данные складывает на FTP Кажется, это уже продвижение реально.... Ну а если в корень взглянуть, то мне кажется что рынок не готов еще к Cloud так как это должно быть на самом деле, я представил бы себе Cloud в виде некого облака в которое я подключаюсь как клиент и работаю со своими данными, не важно что это за данные,сайт или что-то другое, но все ПО заточено блин под 1 тазик... начинаю повторяться уже.... в общем согласен насчет динамики памяти :D тут спорить нет смысла. А ситуации будут и будут , бесспорно, но хочется же знать их и понимать пути решения, по этому у меня и вызван интерес очень великий, так как сейчас потратить кучу бабла на кластер как бы можно, но есть же те, кто уже запустили и действуют, вот собираю так сказать по клокам информацию.

Romka_Kharkov добавил 09.12.2010 в 03:03


трое на одного ..... BALANCE !!!! ;)

Romka_Kharkov добавил 09.12.2010 в 03:04


Тоже как бы в курсе, там описано собственно то же самое, что я пытался применить... tmpfs не удачный пример, по этому с ним тестить не стал в принципе.

На счет "креш ядра" Вы не правы. Ядро не упало. Просто случился oom killer. В обычной ситуации он убивает процесс, что ел память. Процесс дохнет и память освобождается. oom killer успокаивается. В Вашем же случае после смерти процесса dd никто память не отдаст и oom killer методично убивает init, sshd ... ну в общем пока все не убьет. Но это отнюдь не паника или падение ядра.

admad:
Вот. Наш специалист выступил :)

Собственно сам себя дополню - в случае ramfs пока не представляется возможным правильно довыделить память:

До записи в рамфс Cached: 32876 kB

После записи 10 мегабайт Cached: 43360 kB

Больше в /proc/meminfo ничего не изменилось на такой объем. Собственно я пытаюсь снизить память, но рамфс по сути не отдает ее. Получаем oom killer. Сначала он убивает dd, потом все остальное :)

Судя по исходникам ядра, пока не представляю как можно перехватить данную ситуацию или хотя бы понять, сколько записалось в рам диск.

Romka_Kharkov:
Ну тогда пусть админ покажет процедуру которая позволит мне занять много в памяти...... Я бы хотел запустить что-то и на рядом в топе увидеть как мои 1.5 GB превратятся в 15 GB :)) на два дня мне это не надо, просто 1 раз увидеть на 5-10 минут вполне достаточно будет.

Между прочим первый раз аналогичная история произошла при создании ramfs в 100mb

Доброго времени суток. Самый простой способ занять память:

#include <stdio.h>

#include <string.h>

#include <stdlib.h>

int main (void) {

int n = 0;

char *p;

while (1) {

if ((p = malloc(1<<20)) == NULL) {

printf("malloc failure after %d MiB\n", n);

return 0;

}

memset (p, 0, (1<<20));

printf ("got %d MiB\n", ++n);

}

}

vase добавил 09.12.2010 в 01:19

vase:
Доброго времени суток. Самый простой способ занять память:

#include <stdio.h>
#include <string.h>
#include <stdlib.h>

int main (void) {
int n = 0;
char *p;

while (1) {
if ((p = malloc(1<<20)) == NULL) {
printf("malloc failure after %d MiB\n", n);
return 0;
}
memset (p, 0, (1<<20));
printf ("got %d MiB\n", ++n);
}
}

По поводу ramfs все сложно. Его структура такова, что она не использует оперативную память в чистом виде (как в данном тесте), а использует дисковой кеш. Так как cloud сервис не учитывает кеш и пытается его снизить до предела (иначе Вы потратите всю память под кеш, а Вы же не хотите за это переплачивать.. или хотите? - если да, то я могу скорректировать :)).

Я попробуйю обойти в данном случае ограничение, но только если страницы памяти будут помечены как dirty. Если оно их не пометит таковыми, то увы - использовать сейчас рам диск не выйдет. Пока не будет стабилизирован cleancache в ядре и tmem. Опыты ведутся, но времени на них мало.

vase добавил 09.12.2010 в 01:20

dataselectel:
Долго читал. Хотелось отвечать, но коллега из Clodo отвечал быстрее. Респект ему как говориться.
Romka_Kharkov, Вот скажите мне пожалуйста, что вы пытаетесь доказать?
Последний раз, когда на Riw2010 меня начали расспрашивать про модель Хостинга которую предлагаем мы и Clodo, люди преследовали только одну цель - Доказать ее не состоятельность, без права на жизнь. К счастью у них это не вышло.
Вы только не обижайтесь, но все же....?

Да, согласен. Обычно все, кто тестят cloud пытаются найти в нем ошибку и доказать, что идея плохая.

vase добавил 09.12.2010 в 01:23

Romka_Kharkov:
Уважаемый, я не обижаюсь, а тем более , что на обиженных говорят балконы падают, цель которую преследую я не сложно понять, это обучение, стремление знать больше, уметь лучше. Я точно так же как и вы (видимо) технический специалист. Я не пытаюсь доказать несостоятельность вашей схемы, я не пытаюсь доказать ее проблемные моменты которые сводят её существование на нет, я не пытаюсь этого сделать, я вижу людей на форуме, которые хотят что-то пронести в массы (в том числе и ваш Cloud), я хочу понять как это работает и на сколько это жизнеспособно, почему вы вместо того что бы что-то признавать начинаете становиться в контры, как будто все... вот он Ромка рецидивист.... Толерантности что ли недостаточно не знаю даже.

То что в момент первых же тестов записи в ramFS происходит какой-то бок, выявилось случайно, или быть может вы думаете что я специально для этого аккаунт попросил ? Сущий бред, мне есть чем заняться. Я просто имел очень короткий опыт работы физически с Infiniband, а так же последнее время думаю о собственной реализации на базе Infiniband.. Увидел тему, пошло обсуждение...... Быть может мои суждения для вас критика, но увы я то по сути говорю... т.е реальность....

Не судите меня, я объективен, ничего не придумал, хожу, спрашиваю, познаю, учу, передаю дальше...

Другими словами, мне все равно , будете вы сейчас писать на сайте честно что падает тачка при работе с RamFS то ли эта тема потеряется в истории форума.... меня интересует техническая реализация , ее работа, как это продавать - дело сугубо ваше я не претендую тут ни на что...

Если нужна техника идея простая. Мы следим за тем сколько памяти выделенно. Если ее больше чем надо - убавляем. Это больше чем определяется из разницы между всей памятью, текущей свободной, кешем буферами. Если Эта формула дает на выходе число больше определенного снижаем на разницу, но не слишком сильно, дабы не убить систему. Как показали опыты, если оставлять неиспользуемый лимит меньше 100 мегабайт, по крайней мере центос, начинает падать. Рамфс специфичная ситуация, хотя я уверен что таких ситуаций будет много, потому что 99 процентов программ пишутся из расчета, что размер памяти не меняется. Что является архаизмом, так как хотплаг в физический сервер памяти существует уже довольно давно.

vase добавил 09.12.2010 в 01:26

LineHost:
Почему же неверно? Всё верно, просто по скорости записи в рамдиск можно тоже делать выводы....

Можно. Только Вы ничего не получите. Потому как скорость будет зависеть от других машин на сервере :). Это не сильно афишируется, но если идет интенсивный on demand memory одной машины с больших пределах, остальные будут проседать. Хотя и не сильно.

П.С. Тут затронут был оверсел по памяти - он возможен. Читайте рассылку по словам xenpaging.

vase добавил 09.12.2010 в 01:29

Romka_Kharkov:
Ну тогда пусть админ покажет процедуру которая позволит мне занять много в памяти...... Я бы хотел запустить что-то и на рядом в топе увидеть как мои 1.5 GB превратятся в 15 GB :)) на два дня мне это не надо, просто 1 раз увидеть на 5-10 минут вполне достаточно будет.

Между прочим первый раз аналогичная история произошла при создании ramfs в 100mb

Вот это еще хорошо почитать: http://www.thegeekstuff.com/2008/11/overview-of-ramfs-and-tmpfs-on-linux/

admad:
Использование Swap целесообразно. Не надо лишь допускать того что бы он активно юзался. Без swap может получиться out of memory при резком запросе большого объема оперативки. При этом мы (clodo.ru) считаем что swap не должен билинговаться, так как это инструмент, который нам помогает нам давать сервис MOD более стабильно. То что у Вас был отключен Swap диск очень странно, я специально сейчас проверил, создал виртуалку и swap вижу.

Без swap диска можно предоставлять scale сервис, но только в том случае, если можно быть полностью уверенным, что используемые приложения будут забирать память кусками не более чем свободная память на данный момент времени.

vase добавил 05.12.2010 в 23:23

Romka_Kharkov:

Я понял, у вас просто не происходит выделение памяти в dom0 динамическое, у вас уже стоят ящики в которых или физически или через RDMA есть объем памяти , в таком случае естественно функции в ядре для dom0 не нужны..... А что если например надо на физической ноде (dom0) ресайзить память ? Суть облака на сколько я понимаю в почти безграничном масштабировании... т.е через какое-то время 32 GB памяти надо будет для запуска WP со всеми модулями, но при этом штатного CPU на ноде будет хватать для сотни таких WP.... :))) Есть ли у вас например возможность из вашего массива памяти выдать ну 100 GB на одну ноду? (пусть в теории).

Ничего не понял=).

П.С. Как Подцеплять память удаленно через RDMA пока не видел...

vase добавил 05.12.2010 в 23:30

rengen:
Вывод
Облачный хостинг хорошо подходит для начинающих проектов, владельцы которых пока не могут рассчитывать на более-менее прогнозируемую посещаемость, сильно нагруженным проектам лучше взять отдельный сервер. Что касается обзора провайдеров, то по моему субъективному мнению по тестам лидирует clodo, хотя из-за его глюков со связью и тем что он новичёк на рынке хостинг услуг, я бы побоялся. В то же время у selectel невразумительные проблемы с MOD которые противоречат самой цели создания облачной системы хостинга.

Я давно еще хотел взять сервер, со времен работы в Петерхост. Я не согласен с тем, что сильно нагруженным проектам стоит брать выделенный сервер потому, что не всегда можно предсказать и спрогнозировать какая аппаратная часть понадобится. К тому же, совсем обидно видеть, когда арендуемый сервер отвалился, потому что хостер сплавил бу железку и там что-то навернулось (raid контроллер или память..), да, поменяют быстро, может минут за 15. Но в случае летаний в облаке все произойдет еще быстрее, если конечно вообще это произойдет...

amso:
Ответ вызывает еще больше вопросов. Вы имели ввиду "ни на одной из сторонних CMS"? Сайт ваша компания разрабатывает самостоятельно? Если так, то не понимаю как связана скорость внесения изменений и обще[не]известность движка. Тут причиной может быть разве что сложность сориентироваться в собственной разработке.

Сайтом на данный момент занимаются посредственно. На данный момент он представляет из себя сбоник всякий скриптов, которые инклудятся через ssi. Местами есть пхп вставки.

oalex:
Классно )) Косяки с типографикой в том же подвале остались, конечно, но на них обычный смертный вряд ли внимание обратит. ;)

Просто сайт не построен ни на одной из CMS, поэтому его обновление и устранение косяков - дело очень долгое. К сожалению, я не знаю почему его не перевели на тот же drupal, например.

oalex:
Я тоже от себя вижу нормально.

ПХ, если ты меня слышишь, смени уже годы копирайта в подвале ;)

поправлено.