/home можете симлинком например в /var/home сделать. Это снимет ограничение на его места, если корень небольшой и что-то туда запишете объемное.
Используйте LXC-виртуализацию. Overhead у нее очень небольшой. Базу лучше ставить на основной машине для всех, в виртуалках - PHP, apach2, nginx и любой другой софт какой нужно. Краткий мануал https://wiki.debian.org/LXC
Это еще и из соображений безопасности хорошо.
Дело происходит на VPS?
С какой-то определенной CMS или на разных?
Похоже, что в From заголовке указан несуществующий адрес. Проверьте, что скрипт его правильно ставит.
Чем почта отправляется - exim, postfix, еще что-то?
Отправьте мне тестовое сообщение на admin собака unixmin.com - я заголовки посмотрю.
А чем SSH/SCP плох? Это шифрованные протоколы, вход по ключу, все достаточно элементарно автоматизируется.
Шифровать сами архивы не вижу никакого смысла если транспорт уже защищен.
DNS с рекурсией действительно потенциально опасен. Если и желаете для кого-то делать такой, то с ограничением по ip-адресу. В корпоративных сетях или у провайдеров для своих клиентов имеет смысл с рекурсией.
Зачем он вам?