DigitalOcean - хотя бы потому, что у него потрясающая удобная панель и сервисы для управления вашим vds сервером.
Создаем файл /etc/apt/preferences.d/php53 со следующим содержимым:
Package: php5*
Pin: release a=oldoldstable
Pin-Priority: 700
Package: libapache2-mod-php5
Package: php-pear
Package: php-apc
Package: *
Pin: release a=oldstable
Pin-Priority: 600
