Бекапирование огромного проекта

12
DriverCat
На сайте с 10.04.2008
Offline
116
958

Доброе утро!

Имеется большой проект с миллионами файлов, сервер на Debian 6, 4-я панель ISP manager , в ней настроено стандартное бекапирование, инкрементить она не умеет, поэтому каждый день пишутся бекапы по 40Гб. Сначала все было ок, но с ростом проекта теперь во время выполнения бекапа проект иногда виснет ненадолго. Подскажите, пожалуйста, что можно сделать в данной ситуации. Исключить данные из бекапа не предлагать - и так только основное.

D
На сайте с 14.01.2007
Offline
153
#1

настроить синхронизацию на другой сервер?

I0
На сайте с 14.10.2006
Offline
142
#2

Можно на s3 синхронизировать файлы

Анализ сайта ( https://pr-cy.ru ) Проверка позиций - LINE ( https://line.pr-cy.ru ) 0,025 Р / ключ (конкуренты бесплатно)
Дмитрий Удимов
На сайте с 05.05.2010
Offline
274
#3

А duplicity на сервер для инкрементного копирования поставить можно? Мне кажется как раз для вашего случая придумали инкремент.

Топвизор — аккредитованный регистратор доменов .ru и .рф (https://topvisor.com/ru/domain-registration/) — честная цена 299 руб. за регистрацию и продление.
DriverCat
На сайте с 10.04.2008
Offline
116
#4
Dinozavr:
настроить синхронизацию на другой сервер?

Ткните, пожалуйста, где почитать лучше про это, не сталкивался еще.

D
На сайте с 14.01.2007
Offline
153
#5

DriverCat, я не админ, поэтому с подробностями не помогу, но копать вам в сторону "rsync" и тп

FireRoot
На сайте с 14.01.2016
Offline
11
#6
DriverCat:
Ткните, пожалуйста, где почитать лучше про это, не сталкивался еще.

В Интернете довольно много статей про синхронизацию файлов, папок с помощью rsync, поиск: https://www.google.ru/search?q=rsync+синхронизация+файлов

Могу проконсультировать, помочь в решении ваших вопросов. Контакты в профиле.

B
На сайте с 13.02.2008
Offline
262
#7
Dinozavr:
но копать вам в сторону "rsync" и тп

+1000

Сам использую это решение (rsync + ssh) и очень доволен. Синхронизируются только измененные и новые/удаленные файлы. Ничего лишнего не качается.

Настройка правда не простая, но в инете есть пошаговые готовые решения настроек.

edogs software
На сайте с 15.12.2005
Offline
775
#8
DriverCat:
Доброе утро!

Имеется большой проект с миллионами файлов, сервер на Debian 6, 4-я панель ISP manager , в ней настроено стандартное бекапирование, инкрементить она не умеет, поэтому каждый день пишутся бекапы по 40Гб. Сначала все было ок, но с ростом проекта теперь во время выполнения бекапа проект иногда виснет ненадолго. Подскажите, пожалуйста, что можно сделать в данной ситуации. Исключить данные из бекапа не предлагать - и так только основное.

Мы в аналогичной ситуации (стандартная панелька с бакапом миллионов файлов не справлялась), стали просто использовать tar для архивирования именно этой кучи файлов, вынеся эту кучу (предварительно) в отдельную папку (хотя можно было и не выносить, просто так удобнее было).

Файлы естественно обновляем в текущем архиве, опции там есть для этого.

Сам *.tar файл потом можно легко перетащить куда угодно.

Синхронизаторы типа rsync не особо прижились, т.к. на выходе мы получали опять же папку с миллионом файлов, которую таскать неудобно. А один толстый файл бакапа - удобно.

Разработка крупных и средних проектов. Можно с криптой. Разумные цены. Хорошее качество. Адекватный подход. Продаем lenovo legion в спб, дешевле магазинов, новые, запечатанные. Есть разные. skype: edogssoft
DriverCat
На сайте с 10.04.2008
Offline
116
#9
edogs:
Мы в аналогичной ситуации (стандартная панелька с бакапом миллионов файлов не справлялась), стали просто использовать tar для архивирования именно этой кучи файлов, вынеся эту кучу (предварительно) в отдельную папку (хотя можно было и не выносить, просто так удобнее было).
Файлы естественно обновляем в текущем архиве, опции там есть для этого.
Сам *.tar файл потом можно легко перетащить куда угодно.
Синхронизаторы типа rsync не особо прижились, т.к. на выходе мы получали опять же папку с миллионом файлов, которую таскать неудобно. А один толстый файл бакапа - удобно.

То есть, если архивировать весь проект не утилитой панели, а простым таром - нагрузка будет меньше при этом? Tar сам следит за измененными и добавленными файлами?

---------- Добавлено 29.01.2016 в 11:34 ----------

borisd:
+1000
Сам использую это решение (rsync + ssh) и очень доволен. Синхронизируются только измененные и новые/удаленные файлы. Ничего лишнего не качается.

Настройка правда не простая, но в инете есть пошаговые готовые решения настроек.

Мож остались доки, по которым Вы делали?

Ragnarok
На сайте с 25.06.2010
Offline
239
#10
DriverCat:
Мож остались доки, по которым Вы делали?

на сервере, который будет стягивать бэкапы, вешайте на крон:

rsync -avz --stats --progress login@8.8.8.8:/path/from/backup /path/to/backup --exclude="*/logs/" --exclude="*/webstat/"

login заменяете на свой логин

8.8.8.8 на ip своего сервера

/path/from/backup -- откуда бэкапим

/path/to/backup -- куда бэкапим

нужно добавить ключи для подключения к ip бэкапируемого сервера без запроса пароля

буду рад если кто-то ткнёт на ошибки или типа того

//TODO: перестать откладывать на потом
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий