VPS с оплатой за ресурсы

А можно поподробнее, как это работает - как определяется что требуется больше ресурсов (по загруженности процессора)? Как приложение может понять что ему выделили больше ресурсов, появляются в системе новые "ядра"?

вы оперируете IaaS понятиями, ядра это от туда. У мирхостинга PaaS, то есть забыли про железо от слова совсем, контейнеры у которых есть ресурс памяти и процессора, есть фиксированное число (дешевле но платите постоянно) а есть скейлинг, выставляете как часть динамически, но платите дороже. То есть у вас есть один так называемый клаудлет, которому доступно 400Мгц и 128Мб оперативки, и вы ставите динамически расширение до 4 клаудлетов, то есть за 1 вы платити всегда, а за остальные 3 только в момент использования, а момент настанет тогда, когда вам перестанет хватать ресурсов, запросы отработали, клаудлеты динамические отвалились и снова платите фикс, удобно, но точно не дешевле.

Самое дешевое из облаков это негарантированные ресурсы, то есть те ресурсы которые у вас в любой момент могут забрать, плюс облака дешевле когда ваше приложение с ними умеет работать на уровне API, то есть штатно приложение работает на минимуме а в случае повышение нагрузки сама себе ресурсы выделяет или какие то воркеры умеют перед запуском задач взять машинку на 96 ядер, сделать задачу за 5 секунд и удалить машину, тем самым вы заплатите 3 копейки а воспользуетесь ресурсами на $10 000 в месяц. Для классических приложений это все не выгодно даже с временной пиковой нагрузкой.