Выбираю технологию (Java vs Python, MySQL vs PostgreSQL): хочу плясать от хостинга

Скажу просто: в современном jvm такого не случается, разьве что с каким-то особенно кривым кодом или кривым кодом в JNI. У нас используется приложение, написанное на grails, т.е там напихано всё, что только можно, начиная от hibernate, заканчивая spring'ом. Виртуальная машина с этим приложением работает уже 5 лет, среднее использование памяти - 300 мегабайт, при скачках посещаемости в 10 раз (аннонсер торрент трекера там) скачков потребления памяти нет, утечек нет, среднее изменение нагрузки на процессор 3-5%. Кстати, оно ещё и mysql использует :)

Atlassian и его жира - это плохой пример легковесного приложения. Это известный монстр и я бы не сказал, что это пример качественного кода.

Вы путаете накладные расходы на работу виртуальной машины и расходы на обработку запросов/работу приложения. Если говорить о первом - то да, они довольно велики, но они фактически фиксированны. Прелесть джавы в том, что расходы на обработку запроса крайне малы и на него тратиться очень мало времени. Вы можете написать приложение на пхп или руби и оно будет потреблять изначально мегабайт 5 памяти и 0 процессора. Проблема в том, что при существенном повышении нагрузки потребление ресурсов возрастёт на порядки, в то время как JVM даже не разогреется толком. Поэтому high load сервисы используют JVM.

Если делать не говносайт на WP или еще каком-то популярном движке, а писать с нуля - то она не сопоставима с затратами на его разработку.

При росте посещаемости - сервер нужно брать в любом случае. Какая разница поставить на нем PHP или Java или Ruby, если для своих клиентов мы можем поставить все это и бесплатно?

Даже на начальных этапах - разница в цене будет минимальной. Так как большинство сайтов используют большее количество модулей, чем предоставляет шаред и необходимо брать минимум VPS.