Как синхронизировать файл 100Гб ?

123 4
P
На сайте с 08.03.2007
Offline
250
3735

При синхронизации больших файлов Rsync упирается в производительность процессора - он однопоточный. Есть ли многопоточная альтернатива? Именно для синхронизации одного большого файла.

LEOnidUKG
На сайте с 25.11.2006
Offline
1766
#1

Синхронизация файла одного?

Не легче просто перекачивать, я так понимаю это между серверами.

✅ Мой Телеграм канал по SEO, оптимизации сайтов и серверов: https://t.me/leonidukgLIVE ✅ Качественное и рабочее размещение SEO статей СНГ и Бурж: https://getmanylinks.ru/ ✅ Настройка и оптимизация серверов https://getmanyspeed.ru/
P
На сайте с 08.03.2007
Offline
250
#2

изменяющихся данных 100 мегабайт. 100 гигабайт будет качаться сутки.

Andreyka
На сайте с 19.02.2005
Offline
822
#3

Побить файл на части, для каждой части запустить rsync, потом склеить части в файл

Не стоит плодить сущности без необходимости
VK
На сайте с 29.12.2011
Offline
42
#4

не уверен, что сработает, но попробуйте какой-то bittorentsync, там в самом протоколе заложено разбитие файла и его скачивание кусочками.

Artisan
На сайте с 04.03.2005
Offline
378
#5
Pilat:
изменяющихся данных 100 мегабайт.
100 гигабайт будет качаться сутки.

1. Вести журнал обновлений,

и перекачивать обновления.

2. Сжимать файл

до перекачивания.

www.leak.info / ДАРОМ линки конкурентов и забытых доменов
P
На сайте с 08.03.2007
Offline
250
#6
Andreyka:
Побить файл на части, для каждой части запустить rsync, потом склеить части в файл

Я думал так сделать, но цифры такие: скорость чтения/записи с диска 600Мб/сек, скорость rsync - 100Мб/сек. Тест:

split -b 1G vm-disk-2.vmdk

cat x* >vm-disk-2.vmdk-copy

rm x*

split -b 1G vm-disk-1.vmdk

cat x* >vm-disk-1.vmdk-copy

rm x*

real 16m26.977s

user 0m0.796s

sys 3m0.672s

rsync на тех же файлах выдаёт

real 17m49.501s

user 12m41.816s

sys 1m4.081s

то есть с разбиением получается ещё хуже.

---------- Добавлено 09.12.2015 в 13:23 ----------

Artisan:
1. Вести журнал обновлений,
и перекачивать обновления.

2. Сжимать файл
до перекачивания.

Первое - это мечта всех виртуальщиков. Второе - упрётся в процессор и диск, см. Пример выше.

P
На сайте с 08.03.2007
Offline
250
#7
V2NEK:
не уверен, что сработает, но попробуйте какой-то bittorentsync, там в самом протоколе заложено разбитие файла и его скачивание кусочками.

bittorentsync это ад для серьёзного использования. Он полностью непредсказуем.

A
На сайте с 19.07.2010
Offline
130
#8

--block-size крутить пробовали? Не факт, что поможет, а вдруг...

.............
P
На сайте с 08.03.2007
Offline
250
#9
admak:
--block-size крутить пробовали? Не факт, что поможет, а вдруг...

Судя по всему проблема в подсчёте контрольных сумм - процессора не хватает, на обеих сторонах 100%.

--block-size в новых версиях rsync должен выбираться автоматически исходя из размера файла, и менять его нет смысла.

Rimlyanin
На сайте с 22.02.2006
Offline
200
#10

у rsync есть много разных ключей, пробовали играться с этими:

-v
-c,
-B
-I
-z
--progress
--no-whole-file
-S
123 4

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий