Вопрос по соединениям для чатов

Потихоньку осваиваю веб разработку и прочее не1С программирование. Наверняка тут есть более опытные спецы. Помогите понять фундаментальную вещь?
Вот есть стандартный http-rest сервис. У него запросили данные, он ответил. Хочу написать чат (типа аськи).
Для того чтобы пользователь мог получать сообщения, мне придётся бомбардировать сервер кучей запросов, например ежесекундно спрашивая "Есть чо?". Как эту задачу решают всякие ватсапы? Неужели обрабатывают миллиард запросов в секунду, на которые стандартный ответ "ничего нового пока нет" в 99.999% случаев? Подробностей не надо, ключевые слова для гугла бы.

ЗЫ
Читал про постоянно открытые соединения, но вроде-бы опять не то. Это лишь способ сохранить состояние соединения и от постоянных запросов с клиента не освобождает.