Для начала проверьте количество соединений по IP адресам:
netstat -atun | awk '{print $5}' | cut -d: -f1 | sed -e '/^$/d' |sort | uniq -c | sort -n
первый столбик - количество открытых соединений, второй IP адрес. Тюнинг апача однозначно, а еще лучше Nginx как reverse proxy на апач.
Если вам нужна стабильность, хороший аптайм, лучше смотреть в сторону виртуального сервера с первых рук, к примеру у того же Hetzner в германии за 6,90 евро в месяц. Устанавливаете Nginx, Apache, PHP(нужные модули), MySQL сервер и все дела. Могу помочь с установкой и конфигурацией веб-сервера, бесплатно :)
