Оптимизация сервера. Помогите

12
suffix
На сайте с 26.08.2010
Offline
285
#11
slizh:

Это как Вы 210 попугаев смогли достичь? Можете скрин прислать?

php7 дал очень ощутимый прирост, ну и настройки сервера.

Скрины выслал на e-mail

Клуб любителей хрюш (https://www.babai.ru)
Евгений Крупченко
На сайте с 27.09.2003
Offline
173
#12

да здесь выложите.

я сегодня решил погуглить что за битрикс такой, скачал такую-то демо версию, поставил, потестил тоже ради спортивного интереса 🙄

на серверке с 300+ работающими сайтами, который загружен все время процессором на 30-40% получилось такое:

так полагаю от настроек здесь ОЧЕНЬ многое зависит.

к примеру при установке mysql myisam или innodb был выбран?

я оставил что по-умолчанию предлагалось - myisam.

ничего больше не трогал, все по-умолчанию.

nginx+apache2.4 / php 7.1.2 (как модуль) / e3-1270v3 / s3700 400Gb / 32Gb ram

155 попугаев пишет.

тест диска с первой страницы здесь вот такой результат дал:

плюс из-за того что сервер не пустой стоит, результаты очень прилично пляшут от теста к тесту.

если никакой другой нагрузки нет, то конечно цифры будут максимальные.

хотя смотрю сюда допустим: https://aspro.ru/company/news/1234/

сверяю со скрином где 200 результат и все цифры под ним у меня вроде бы по-лучше.

как же тогда эта общая цифра высчитывается не пойму 😕

показывайте еще кто-нибудь скрины со всеми результатми (процессор, файловая система и т.д.) и подробностями на чем тестировалось и как оно параллельно было загружено.

я позже донастраиваю еще другой серверок с еще по-круче процем и ssd, посмотрю что там напишет за результат

S
На сайте с 09.01.2017
Offline
31
#13
EvGenius:
да здесь выложите.
я сегодня решил погуглить что за битрикс такой, скачал такую-то демо версию, поставил, потестил тоже ради спортивного интереса 🙄
на серверке с 300+ работающими сайтами, который загружен все время процессором на 30-40% получилось такое:



так полагаю от настроек здесь ОЧЕНЬ многое зависит.
к примеру при установке mysql myisam или innodb был выбран?
я оставил что по-умолчанию предлагалось - myisam.
ничего больше не трогал, все по-умолчанию.

nginx+apache2.4 / php 7.1.2 (как модуль) / e3-1270v3 / s3700 400Gb / 32Gb ram
155 попугаев пишет.

тест диска с первой страницы здесь вот такой результат дал:



плюс из-за того что сервер не пустой стоит, результаты очень прилично пляшут от теста к тесту.
если никакой другой нагрузки нет, то конечно цифры будут максимальные.

хотя смотрю сюда допустим: https://aspro.ru/company/news/1234/
сверяю со скрином где 200 результат и все цифры под ним у меня вроде бы по-лучше.
как же тогда эта общая цифра высчитывается не пойму 😕
показывайте еще кто-нибудь скрины со всеми результатми (процессор, файловая система и т.д.) и подробностями на чем тестировалось и как оно параллельно было загружено.

я позже донастраиваю еще другой серверок с еще по-круче процем и ssd, посмотрю что там напишет за результат

Это у Вас на рейде диски? Материнка какая стоит? Какую сборку поставили? Бизнес?

Евгений Крупченко
На сайте с 27.09.2003
Offline
173
#14

диски? :)

1шт там трудится.

материнка x10sll-f

качал отсюда:

http://www.1c-bitrix.ru/download/cms.php#tab-php-link

Эксперт 16.5.4 - suffix за эксперт вроде выше писал, ее и поставил.

suffix
На сайте с 26.08.2010
Offline
285
#15

На самом деле это сферический конь в вакууме. Во первых разница от демо версии и от работающего сайта под нагрузкой может отличаться в попугаях в разы. Кроме того это действительно попугаи что даже спецы самого Битрикс признают.

S
На сайте с 09.01.2017
Offline
31
#16
EvGenius:
а еще там же пишут https://wiki.archlinux.org/index.php/Solid_State_Drives_%28%D0%A0%D1%83%D1%81%D1%81%D0%BA%D0%B8%D0%B9%29
"иногда на некоторых SSD это может приводить к замедлению работы при удалении файлов".
вместо discard лучше по cron запускать fstrim ночью.

но я в целом про то что не надо особо ориентироваться на результаты в FOB состоянии (по этой терминологии), а ближе к реальной жизни результаты в Steady State.
ведь диск может быть к примеру под крышку забит данными и что тогда trim подчищать должен по-вашему? а писать/перезаписывать допустим надо. тут и окажется что скорость будет далеко не Fresh-Out-of-Box

еще можно такие тесты провести попробовать:

aptitude install fio

случайное чтение:
fio --randrepeat=1 --ioengine=libaio --direct=1 --gtod_reduce=1 --name=test --filename=test --bs=4k --iodepth=64 --size=4G --readwrite=randread

случайная запись:
fio --randrepeat=1 --ioengine=libaio --direct=1 --gtod_reduce=1 --name=test --filename=test --bs=4k --iodepth=64 --size=4G --readwrite=randwrite

случайное чтение/запись:
fio --randrepeat=1 --ioengine=libaio --direct=1 --gtod_reduce=1 --name=test --filename=test --bs=4k --iodepth=64 --size=4G --readwrite=randrw --rwmixread=75

при bs=4k конечно же скоростя будут не такими радужными как при 64k, но правда ли в реальности оно у вас будет писать большими блоками?

Кстати, результаты тестирования сразу чтения/записи:

Сервер1

READ: io=3071.7MB, aggrb=330051KB/s, minb=330051KB/s, maxb=330051KB/s, mint=9530msec, maxt=9530msec

WRITE: io=1024.4MB, aggrb=110064KB/s, minb=110064KB/s, maxb=110064KB/s, mint=9530msec, maxt=9530msec

Сервер2

READ: io=3071.7MB, aggrb=257396KB/s, minb=257396KB/s, maxb=257396KB/s, mint=12220msec, maxt=12220msec

WRITE: io=1024.4MB, aggrb=85836KB/s, minb=85836KB/s, maxb=85836KB/s, mint=12220msec, maxt=12220msec

Отдельно результаты тестов на чтение и запись одинаковые. Здесь же видна просадка по скорости на 30% для чтения/ запись. Показатели битрикса также выше на 30-40%.

Может ли влиять файловая система самой ОС? Или все-таки материнка?

Евгений Крупченко
На сайте с 27.09.2003
Offline
173
#17

да причем тут материнка если диски-то разные.

у ssd все очень сложно с производительностью. упор на разные вещи делается, разные настройки изначально ставятся и по-разному можно самостоятельно настроить.

есть к примеру micron p320h 700gb, вроде бы замечательная вещь, SLC, 50Pb ресурс, 3.2/1.9 скорости чтения/записи. вот только создавалась она изначально под многопроцессорные системы с расчетом на то что ее грузить будут одновременно большим количеством потоков задач. ей подавай блоки данных по-больше и глубину очереди в 256 хотя бы.

при этом у нее есть настройка чтобы сместить производительность в сторону маленькой очереди, хоть и в ущерб максимальным iops'ам.

так вот даже при такой настройке она при обычной небольшой нагрузке маленькой очередью с маленькими блоками показывает хуже производительность чем p3700 400gb на MLC с 2.7/1.0 скоростями (и в раз в 7 ниже ресурсом, к слову).

запись 4k блоками, очередь 8 - 320мб/с

а если подбавить размер блока до 64k и глубину увеличить до 256 уже получаем положенные 1.9гб/с на запись

в то время как p3700 при тех же 4k/8 уже с ходу выдает больше 800мб/с запись:

т.е. p3700 больше подходит для однопроцессорного не слишком загруженного серверка.

хоть p320h в целом гораздо круче, но она просто не раскроет себя полностью в обычных задачах.

но зато можно пользоваться и вообще не переживать за надежность. 50 петабайт - это уровень!

сколько там ресурс на ваших самсунгах? 🙄

а вот для сравнения они же в смешанном тесте read/write 4k/64

т.е. более-менее на равне ~580 чтение и 190 запись

но опять же, если куда-нибудь сместить размер блока или глубину очереди, то кто-то из них будет вырываться в лидеры.

ну и для сравнения sata'шный s3700 400:

145/48 мб/с "всего лишь". в кавычках т.к. все равно в том же битриксе как видите вполне вменяемый результат выдает.

что покажут pci-e диски, поглядим... хотя там же не только от дисков все зависит.

в общем мораль такова - если вам кажется что "pro" самсунг проигрывает в производительности, то возможно он еще проявит себя в чем-то другом. например дольше проживет :)

ну и стоит поковырять фирменными утилитами разные настройки. я правда не знаю что там как у самсунгов, но наверняка что-то должно быть.

к примеру в p320h по-умолчанию write buffer был выключен и от этого производительность была еще хуже.

я его включил и по-лучше стало, правда пугает вариант с пропадением питания и потерей данных из буфера.

на более современных s3700/p3700/p420m для этого есть встроенный конденсатор, который в случае чего поддержит питание и закончит запись нормально.

S
На сайте с 09.01.2017
Offline
31
#18
EvGenius:
да причем тут материнка если диски-то разные.
у ssd все очень сложно с производительностью. упор на разные вещи делается, разные настройки изначально ставятся и по-разному можно самостоятельно настроить.

есть к примеру micron p320h 700gb, вроде бы замечательная вещь, SLC, 50Pb ресурс, 3.2/1.9 скорости чтения/записи. вот только создавалась она изначально под многопроцессорные системы с расчетом на то что ее грузить будут одновременно большим количеством потоков задач. ей подавай блоки данных по-больше и глубину очереди в 256 хотя бы.
при этом у нее есть настройка чтобы сместить производительность в сторону маленькой очереди, хоть и в ущерб максимальным iops'ам.
так вот даже при такой настройке она при обычной небольшой нагрузке маленькой очередью с маленькими блоками показывает хуже производительность чем p3700 400gb на MLC с 2.7/1.0 скоростями (и в раз в 7 ниже ресурсом, к слову).

запись 4k блоками, очередь 8 - 320мб/с



а если подбавить размер блока до 64k и глубину увеличить до 256 уже получаем положенные 1.9гб/с на запись



в то время как p3700 при тех же 4k/8 уже с ходу выдает больше 800мб/с запись:



т.е. p3700 больше подходит для однопроцессорного не слишком загруженного серверка.
хоть p320h в целом гораздо круче, но она просто не раскроет себя полностью в обычных задачах.
но зато можно пользоваться и вообще не переживать за надежность. 50 петабайт - это уровень!
сколько там ресурс на ваших самсунгах? 🙄

а вот для сравнения они же в смешанном тесте read/write 4k/64





т.е. более-менее на равне ~580 чтение и 190 запись
но опять же, если куда-нибудь сместить размер блока или глубину очереди, то кто-то из них будет вырываться в лидеры.

ну и для сравнения sata'шный s3700 400:



145/48 мб/с "всего лишь". в кавычках т.к. все равно в том же битриксе как видите вполне вменяемый результат выдает.
что покажут pci-e диски, поглядим... хотя там же не только от дисков все зависит.

в общем мораль такова - если вам кажется что "pro" самсунг проигрывает в производительности, то возможно он еще проявит себя в чем-то другом. например дольше проживет :)

ну и стоит поковырять фирменными утилитами разные настройки. я правда не знаю что там как у самсунгов, но наверняка что-то должно быть.
к примеру в p320h по-умолчанию write buffer был выключен и от этого производительность была еще хуже.
я его включил и по-лучше стало, правда пугает вариант с пропадением питания и потерей данных из буфера.
на более современных s3700/p3700/p420m для этого есть встроенный конденсатор, который в случае чего поддержит питание и закончит запись нормально.

Т.е. получается, что все из-за дисков?

В первом случае, более дешевые диски показывают более высокую скорость, тогда как более надежные работают не так быстро.

Вы написали про write cache buffer и я сразу стал гуглить, как проверить, включен ли он. Много информации для виндовс систем и их программа magican + есть rapid mode - http://www.samsung.com/ch/business-images/resource/white-paper/2014/01/Whitepaper-Samsung_SSD_Rapid_Mode-0.pdf

Тем не менее, ничего толкового для linux.

Первый сервер из хецнера. Может они что-то оптимизируют при установке ОС или на самих дисках? ОС Centos7.

На второй материнке биос обновил. Ничего не изменилось. Неужели разница только в дисках.

На втором сервере явная проблема с записью - https://gyazo.com/ba9d78692a0a624b00c9eeddcb5f7f9a

S
На сайте с 09.01.2017
Offline
31
#19

Ребята, подскажите. Я пошел дальше и купил такие же диски, как в первом случае. Также их в рейд поставил. Накатил такую же систему. Результат тот же. Первое мнение - виновата материнка. Обновил биос, потестировал. Тоже самое. Потом начал грешить на backpanel. Подключил напрямую без нее. Аналогично. Проверил прошивку дисков. Такая же как и на первом сервере. Купил материнку с новым чипсетом. Такой же результат. Я реально в шоке и не понимаю, что же такое на первом сервере сделано. Может со стороны установщика прописывается какой-нибудь block size или что еще может быть...

1) 1-й сервер

READ: io=3071.7MB, aggrb=365445KB/s, minb=365445KB/s, maxb=365445KB/s, mint=8607msec, maxt=8607msec

WRITE: io=1024.4MB, aggrb=121867KB/s, minb=121867KB/s, maxb=121867KB/s, mint=8607msec, maxt=8607msec

2)

READ: io=3071.7MB, aggrb=233805KB/s, minb=233805KB/s, maxb=233805KB/s, mint=13453msec, maxt=13453msec

WRITE: io=1024.4MB, aggrb=77968KB/s, minb=77968KB/s, maxb=77968KB/s, mint=13453msec, maxt=13453msec

Все равно на втором сервере с такими же дисками есть просадка. Как это объяснить?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий