Как посмотреть и как ограничить всплески

1. Вопрос про мониторинг или про то, каким образом пережить наплыв ?

Джойн ту квешн.

2. Я так понимаю, что ondemand это не про скорость, а про экономию ресурсов.

как пережить наплыв

да, сорри

Например мониторинг дает сигнал куберу или aws и прочим облакам, что пора бы развернуть еще контейнеров, по которым размажется нагрузка. Когда пик схлынет, лишние контейнеры можно прибивать.

У тебя php-fpm не сам же запросы принимает. Перед ним стоит nginx?

Вот и пущай nginx через req_limit их в очередь ставит.

ну или не так модно, по старинке - нарулить бекендов, а голой жопой выставлять наружу только фронт на нжинксе.

так суть в том, чтоб мощности не простаивали, когда это не требуется.

они и так простаивают ибо виртуальность в виртуальности, но, можно прикрутить баш портянку с парсингом топа и стата нжинкса - шоб оно подымало и гасило кого надо и когда надо ))

так суть в том, чтоб мощности не простаивали, когда это не требуется.

Ну битки майни на свободных. Вариантов немного же, либо расчитывать на максимальную нагрузку и пусть стоит в остальное время либо слать оутлупы при перегрузке.

там не aws и другие облака там все сильно бюджетнее ((

Что даже пары бекендов нет? Одна единственная нода торчит голой жопой в инет?

Там один сервак под этот сервис и там бывают всплески .

мониторинг дает сигнал куберу или aws и прочим облакам, что пора бы развернуть еще контейнеров, по которым размажется нагрузка

При случайных всплесках это не работает. Пока оно там расчехляется пик уже проходит. Единственный вариант это держать избыточные контейнеры.

Да, для таких случаев холодные контейнеры есть.