alw

Рейтинг
34
Регистрация
14.11.2011
Pavel.Odintsov:
В CentOS наиная с 5.2 заканчивая 6.1 все идеально и работает на 100+ машинах :)

Pavel.Odintsov добавил 21.11.2011 в 12:28
Кстати, если кому интерсно, реализовывал пару интересных фич с Папетом: http://phpsuxx.blogspot.com/2010/04/puppet-subversion.html (Перенос всей конфигурации Puppet в Subversion)

Это правильно, мы тоже в svn храним.

А внедрили отдельную инфраструктуру для разработки-отладки рецептов?


Кроме этого, есть спец шаблонизатор, который умеет примерно следующее. На входе:


import "ovz_common.pp"
import "ovz_64.pp"

# new nodes, from 13 to *
node %s {
include "ovz_common"
include "ovz_64"
}


На выходе:


node "node1.domain.ru", ... ,"node101.domain.ru" {
include "ovz_common"
include "ovz_x64"
}


Получилось даже вроде ничегошно :)

А зачем так то? в именовании нод вполне себе регекспы пишутся..

Andreyka:
Мда, с такой подписью и выдавать такое... sysctl/vm/ читать до полного просветления.

Ну уж не надо совсем за школяра то принимать. Вдумчиво прочитано было.

Параметры, что бы крутить кеш на запись - есть. Параметры определяющие сколько отдавать под кеш из свободной памяти - тоже есть. Параметров регламентирующих работу с закешированными считанными данными не вижу.

Ну OS менять тут явно не хочется. Памяти мало для кеша - да, похоже. Доставлю, потестирую.

Так сходу рукояток, что бы крутить параметры политики файлового кеша в линуксе не нахожу. Возможно плохо ищу.

Ну таки наверное разная нагрузка.

У меня лежит 100гб файлов размером от 10мб до 1гб.

В теории top10 скачиваемых файлов вполне помещаются в объем памяти, занимаемой кешем.

Для проверки, в кеше ли файл, беру наиболее часто мелькающий за последнюю пару минут в логах файл размером 200-300 мб, и пробую

dd if=/path/to/file of=/dev/null bs=16M

и наблюдаю скорость чтения порядка 70мб/сек.повторив эту операцию несколько раз подряд наблюдаю что файл полностью отдается из кеша - скорость чтения составляет гигабайты в секунду. пробую через пару минут - при том что файл вполне себе скачивается время от времени - скорость чтения опять упала до 70мб/сек. Из чего делаю вывод, что файл из кеша вымылся, и общий объем кеша в 4-5 гб в моем случае не эффективен.

Где ошибка в рассуждениях?

netwind:
или я уже предлагал третий вариант. но alw ведь типа админ. заказчиком быть западло :)

Третий вариант понятен, приедет ssd - попробуем )

А вот заказчиком быть не западло, да. В тех темах где понимаю, что однозначно "не осиляю".

alw добавил 21.11.2011 в 06:28

Andreyka:
Или использовать кеш ОС или скрипт городить.

Похоже что в моем случае кеш ОС не эффективен - судя по замерам даже частокачаемые файлы очень быстро из него вылетают. Посему нагородил скрипт+tmpfs - стало явно лучше. Andreyka, спасибо за идею. Как с тем колумбовым яйцом, она вроде очевидная - но не сразу в голову приходит )

Andreyka:
Ну и какие могут быть проблемы с софтрейдом?

+1

Ныне софтрейд всем хорош. Ну разве что кроме отсутствия батарейки.

Andreyka:
Нет, только самые популярные, которые дают 80% нагрузки.

Ну так сегодня популярны одни, завтра другие... Скрипт городить?

Да и я как то надеюсь, что система сама их в кеше держит, благо судя по free кеш составляет 4-5гб.

А есть ли какой либо способ узнать что именно сейчас закешировано системой? Какой процент хитов в кеш?

alw добавил 20.11.2011 в 19:12

Таки провел эксперимент, поставив varnish перед nginx и дав ему 4gb памяти для кеша. Стало явно хуже, чем с голым nginx. Вычеркиваем )

Andreyka:
Туда тоже можно.

Наши тесты показывают, что если диски виртуалок делать в файлах, то io в виртуалке просаживается процентов на 20-25 по сравнению с хостом. Я делаю в lvm разделах - так просадка незначительная.

А вот в случае со стораджем... Вы как их подключаете? iscsi? fc? infiniban? sas?

netwind:
Слишком уж поверхностный анализ.
точно скажу : раз диск так сильно занят, то значит не хватает кеша.

Это понятно. Собсно я и varnish нашел когда гуглил на тему настройки кеширования.


Кроме дальнейшего увеличения ОЗУ и дисков в raid, можно еще соорудить кеширующий чтение достаточно большой ssd-диск. Это не очень популярная техника, но могу вам настроить.

До этой мысли тоже додумался, ssd диск заказан, на неделе придет - попробую.

Кешируем так же nginx'ом, разместив его кеш на ssd ?

alw добавил 20.11.2011 в 17:59

Спасибо за ссылку, почитал с интересом.

Но не то - у меня честно уже и так вся свободная память выедается под системный кеш.

Andreyka:
Разные стораджи в зависимости от бюджета заказчика
Управление с помощью кластере от редхат

А диски виртуалок - как файлы на пошаренной файловой системе на сторадже?

Всего: 283