Обмен данными браузер-сервер: PHP сойдет для сервера?

Вы еще в самом начале пути так то и про масштабируемость пока что забудьте. Все что вы описали может как создавать много нагрузки, так и не создавать вообще, все зависит от архитектуры вашего приложения, а не от конкретных технологий. Тем более "горячие" данные можно положить в такие БД как redis например в оперативку (а именно флаг новых сообщений) и пока он "выключен" сами сообщения не запрашивать.

Вместо того, что спрашивать сервер, не появились ли сообщения, можно просто напросто посылать эти сообщения клиенту напрямую через Websocket. Таким образом, можно сократить "холостые" обращения к серверу, и снизить нагрузку. Конечно, можно и AJAX например, если не слишком часто (раз в минуту например), но если у вас какое-то критическое приложение, где вам нужно каждые две секунды выводить на экран информацию (например, позиции в гонках, ставки на аукционах и прочее), то лучше конечно использовать WS.

Под WS лучше использовать что-то вроде NodeJS или Go, PHP в риал-тайм не сильно, хоть библиотеки и есть, но это чистой воды секс с резиновой женщиной.

Как вам выше написали, ненужно страдать преждевременной оптимизацией, потому что потратите время не добравшись до сути, однако и костылями обматываться тоже не стоит, потому что когда дело дойдет до масштабирования, придется все писать с нуля.