Есть ли возможность сделать бэкап в CentOS Linux на виртуальном VPS сервере?

Смотря на каком VPS сервере :) В тех, что поддерживают "снимки системы" - очень легко. Например, digital ocean, linode, aws ec2, vscale.io и т.п.

Да, вот так можно сделать полный дамп диска:

dd if=/dev/sda | gzip -1 -" | dd of=backup.gz

/dev/sda возможно потребуется заменить на /dev/vda

Так же это можно сделать удаленно, с локального компьютера(но перед этим необходимо выключить запрос пароля при выполнении sudo):

ssh user@host "sudo dd if=/dev/sda | gzip -1 -" | dd of=backup.gz

Для мониторинга прогресса можно после опции if добавить "status=progress"

swank, если так снимать на работающей системе скорее всего после этого полученный "снимок" не удастся восстановить - вместо базы данных точно будет фарш, с остальным - скорее всего также.

Посмотрев поисковики, некоторые пишут, что можно tar архивом все заархивировать, да еще и сжать и потом типа восстановить это правда или не совсем то?

Dmitriy_2014, если загрузиться в rescue mode, то можно. Т.е. с простоем системы.