автоматизированный шардинг flv на sdd

12
K
На сайте с 29.02.2008
Offline
116
kdj
1552

Товарищи

есть сервер с SSD и обычными Сата дисками. C сервера стримится flv,mp4.

В пиках трафик доходит до 1Гбит/с. Отдавать такой поток под силу только SSD (или с нескольких SAS).

Но весь архив видео запихнуть на SSD не возможно (на 2Тб ссд еще пока не видел)

Львиную долю нагрузки создают "новые" и "популярные" файлы, которые постоянно меняются.

Думаю над создание автоматизированной систему шардинга файла к которым особо много обращений на SSD.

Поделитесь опытом

1. как лучше мониторить файлы которые требуют шардинг? использвать lsof | grep flv?

2. как надежен internal redirect в nginx при стриминге?

Romka_Kharkov
На сайте с 08.04.2009
Offline
485
#1

kdj, рассмотрите вариант когда ваш контент будет отдаваться более чем с 1го сервера. А мониторить скажем так активные и запрашиваемые кино можно хоть через PHP, при вызове фильма +1 куданить в MYSQL а дальше считайте кол-во, выбирайте топы и загружайте их на SSD.

Есть около 15.000 ipv4 !!! (http://onyx.net.ua/price.php#ipv4) Качественный хостинг с 2005 года - лучшее клиентам! (http://onyx.net.ua/)
M
На сайте с 16.09.2009
Offline
278
#2
kdj:
Львиную долю нагрузки создают "новые" и "популярные" файлы, которые постоянно меняются.
Думаю над создание автоматизированной систему шардинга файла к которым особо много обращений на SSD.

Может просто кеш того же nginx на SSD вынести, чем извращаться с lsof и grep?

Абонементное сопровождение серверов (Debian) Отправить личное сообщение (), написать письмо ().
Rimlyanin
На сайте с 22.02.2006
Offline
200
#3
kdj:
Товарищи
есть сервер с SSD и обычными Сата дисками. C сервера стримится flv,mp4.
В пиках трафик доходит до 1Гбит/с. Отдавать такой поток под силу только SSD (или с нескольких SAS).
Но весь архив видео запихнуть на SSD не возможно (на 2Тб ссд еще пока не видел)

Львиную долю нагрузки создают "новые" и "популярные" файлы, которые постоянно меняются.
Думаю над создание автоматизированной систему шардинга файла к которым особо много обращений на SSD.

Поделитесь опытом
1. как лучше мониторить файлы которые требуют шардинг? использвать lsof | grep flv?
2. как надежен internal redirect в nginx при стриминге?

с потоком в 1Гбит/с спокойно справятся достаточное количество SATA винчестеров.

"несколько SAS" - не панацея, т.к. по линейному чтению SAS не намного быстрее SATA HDD. У них другое преимущество.

K
На сайте с 29.02.2008
Offline
116
kdj
#4
myhand:
Может просто кеш того же nginx на SSD вынести, чем извращаться с lsof и grep?

можно попробовать, только нужно уточнить в какой момент nginx начнет отдавать файл сразу или после завершения копирования в кеш?

---------- Добавлено 29.06.2012 в 22:44 ----------

Rimlyanin:
с потоком в 1Гбит/с спокойно справятся достаточное количество SATA винчестеров.

"несколько SAS" - не панацея, т.к. по линейному чтению SAS не намного быстрее SATA HDD. У них другое преимущество.

1. сколько же нужно САТА дисков для отдачи гигабита?

2. в данном случае абсолютно НЕ линейное чтение, с диска одновременно читается множество файлов и с сас удается получить не более 300Мбит/с

Rimlyanin
На сайте с 22.02.2006
Offline
200
#5
kdj:
можно попробовать, только нужно уточнить в какой момент nginx начнет отдавать файл сразу или после завершения копирования в кеш?

---------- Добавлено 29.06.2012 в 22:44 ----------



1. сколько же нужно САТА дисков для отдачи гигабита?
2. в данном случае абсолютно НЕ линейное чтение, с диска одновременно читается множество файлов и с сас удается получить не более 300Мбит/с

1, много, и на хорошем контроллере... настраивал один сервак небольшой продакшен-студии под видео-хранилище с дюжиной sata HDD на адаптеке 5405? думаю он потянет отдавать гигабит.

2, А сколько вы с сата-винта получите скорость?

K
На сайте с 29.02.2008
Offline
116
kdj
#6

c одного SAS не более 300-350Мбит/c, далее резко растет iowait

Andreyka
На сайте с 19.02.2005
Offline
822
#7

1. Анализируем лог nginx и находим самые популярные файлы

2. Выносим их в память и ssd

Кроме того узким местом может быть и сетевая карта например

Не стоит плодить сущности без необходимости
N
На сайте с 06.05.2007
Offline
419
#8

Давно уже есть прозрачный кеш дисковых устройств на SSD. Там и автоматическое вытеснение неиспользуемых тоже есть. Возможно, он будет менее эффективен, но полностью прозрачен и не требует писания скриптов.

Кнопка вызова админа ()
A
На сайте с 25.12.2008
Offline
117
#9
netwind:
Давно уже есть прозрачный кеш дисковых устройств на SSD. Там и автоматическое вытеснение неиспользуемых тоже есть. Возможно, он будет менее эффективен, но полностью прозрачен и не требует писания скриптов.

что-то типа смарт респонс и иже с ним? но это же под винду и с дровами? а сервера обычно на линуксе - что можно использовать?

по сабжу - гигабит это не показатель, сколько у вас открытых коннектов одновременно? ТС, я надеюсь вы поставили побольше памяти? 2ой вопрос ваш честно говоря не понял - ну интернал, чтобы не лазили по прямым ссылкам, скорость ограничить - все работает и кушать не просит

iamsens
На сайте с 26.08.2009
Offline
115
#10
kdj:
Товарищи
есть сервер с SSD и обычными Сата дисками. C сервера стримится flv,mp4.
В пиках трафик доходит до 1Гбит/с. Отдавать такой поток под силу только SSD (или с нескольких SAS).
Но весь архив видео запихнуть на SSD не возможно (на 2Тб ссд еще пока не видел)

Львиную долю нагрузки создают "новые" и "популярные" файлы, которые постоянно меняются.
Думаю над создание автоматизированной систему шардинга файла к которым особо много обращений на SSD.

Поделитесь опытом
1. как лучше мониторить файлы которые требуют шардинг? использвать lsof | grep flv?
2. как надежен internal redirect в nginx при стриминге?

4 sata веника должны нормально отдавать видео, если aio всякие включены и т.д.

ssd тут не место)

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий