Как избежать тормозов при скачивании файлов?

AN
На сайте с 05.06.2004
Offline
243
959

Господа сисадмины, просветите пожалуйста...

Есть потребность организовать регулярное скачивание с сервера по ssh (rsync'ом, wget'ом, как-то еще - это уже детали) довольно больших объемов данных (по несколько Гб, изредка и десятков Гб за раз).

По вашему опыту: будет ли при таких скачиваниях сервер грузиться настолько, что начнут заметно тормозить работающие на нем сайты? Если да, то как-то можно организовать это скачивание, чтобы не допустить таких тормозов (наверно как-то искуственно замедлять его)?

Исходные данные.

Скачиваемые файлы: по большей части - архивы по несколько десятков/сотен Мб, но есть и папочки с кучей мелких файлов (размер файлов - килобайты, их кол-во - десятки тысяч).

Сервер: i7-920, памяти много, SATA-диски, канал 100Мб shared (можно исходить из того, что в моменты скачивания есть возможность занять его почти полностью).

Текущая загрузка сервера при штатной работе сайтов: небольшая (LA обычно в районе 1, us, sy редко выходят за 10%).

Размещу ваши баннеры на посещаемых сайтах. Места еще есть! Возможен безнал. (/ru/forum/324945) Нужны копирайтеры/рерайтеры - медики. Пишите в личку. (/ru/forum/676932)
Andreyka
На сайте с 19.02.2005
Offline
822
#1

Например - cdp от r1soft

Не стоит плодить сущности без необходимости
AN
На сайте с 05.06.2004
Offline
243
#2
Andreyka:
Например - cdp от r1soft

Как я понимаю, такой ответ на второй вопрос подразумевает, что на первый - ответ "Да"?

Himiko
На сайте с 28.08.2008
Offline
560
#3

Насколько часто качать?

Сервер нагрузится вряд ли, да и сомневаюсь, что вы 100 mb/s забьёте скачиванием.

Профессиональное администрирование серверов (https://systemintegra.ru). Круглосуточно. Отзывы (/ru/forum/834230) Лицензии (http://clck.ru/Qhf5) ISPManager,VDSManager,Billmanager e.t.c. по низким ценам.
M
На сайте с 16.09.2009
Offline
278
#4

В принципе, у rsync есть опция "--bwlimit". Другой (и более существенный) момент - нагрузка на диск. Тут может помочь установка приоритетов: man nice, man ionice.

Абонементное сопровождение серверов (Debian) Отправить личное сообщение (), написать письмо ().
AN
На сайте с 05.06.2004
Offline
243
#5
Himiko:
Насколько часто качать?

2-3 раза в сутки.

Himiko:
Сервер нагрузится вряд ли

То есть при интенсивном скачивании на 100мб такой сервер скорее упрется в пропускную способность канала, чем в пределы собственной производительности?

Himiko:
сомневаюсь, что вы 100 mb/s забьёте скачиванием

Вполне вероятно, но давайте все же предположим, что в моменты скачивания канал практически не занят больше никем. Только мое скачивание + http-трафик (небольшой по сравнению со скачиваемыми объемами) моих же сайтов на этом сервере. Что тут будет узким местом: канал или сервер?

AnNik добавил 30.03.2011 в 14:04

myhand:
у rsync есть опция "--bwlimit". Другой (и более существенный) момент - нагрузка на диск. Тут может помочь установка приоритетов: man nice, man ionice

Спасибо, почитаю.

Himiko
На сайте с 28.08.2008
Offline
560
#6
AnNik:


То есть при интенсивном скачивании на 100мб такой сервер скорее упрется в пропускную способность канала, чем в пределы собственной производительности?


Вполне вероятно, но давайте все же предположим, что в моменты скачивания канал практически не занят больше никем. Только мое скачивание + http-трафик (небольшой по сравнению со скачиваемыми объемами) моих же сайтов на этом сервере. Что тут будет узким местом: канал или сервер?

1. Всё зависит от скорости, с которой вы будете дёргать файлы. (точнее сможете физически).

Судя по количеству файлов, может диск нагрузиться в такие моменты.

2. Я полагаю, что скорее сервер. Пересылка файлов в один поток вряд ли сможет забить канал.

Himiko добавил 30.03.2011 в 14:20

Хотя раз канал shared, тот тут точно не сказать. Он может быть уже нагружен и не за счёт вашего сервера.

AN
На сайте с 05.06.2004
Offline
243
#7

Спасибо, более-менее прояснилось.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий