Прокси сервер с кастомной обработкой запросов

Да вот вообще на чём угодно. Отталкивайся от своих предпочтений и инфраструктуры, на которой будет работать код. Ну или сообщай какие-то странные уникальные «хотелки», которые могли бы отсеять некоторые языки/фреймворки/технологии.

nginx. Если его функционала мало то можно использовать OpenResty, nginx со встроенным LUA

Чет мне кажется, что твой прокси на самом деле и не прокси вовсе, потому что он половину запроса обработает. Возможно, X-Accel-Redirect тебе поможет.

Не, переделывать бэкенд не вариант

А не надо переделывать бэкенд. X-Accel-Redirect, очень правильно подсказано. Запускается скрипт, парсит всё, что надо, потом отдаёт nginx'у, куда редиректнуть через прокси. Отделить мух от котлет (т.е. локейшн редиректа от собственно пространства имён приложения) можно реврайтом.

Вот здесь простенький пример: https://distinctplace.com/2013/09/18/use-nginx-to-proxy-files-from-remote-loc...

Вобще похоже на то, посмотрю, спасибо.

Функционала довольно много, уже есть реализация, но она не очень справляется с нагрузкой.

Переписывать всё на lua конечно не хотелось бы, но наверное можно заилить микросервис и лазить в него из OpenResty.

Тогда-уж можно реализовать всю логику в бекенде на $твой-любитый-яп (можешь назвать это микросервисом) и отдавать из него команды nginx-у что дальше с запросом делать.
Если запросов не какое-то безумное количество, а обработка каждого из них (та загадочная хитрая логика, которую ты хочешь вынести в микросервис) занимает не какой-то внушительное время то всё должно быть нормально. Ну а если оно объективно ресурсоёмко, то тут уж наверное ничего не сделать (кроме пересмотра архитектуры)

Хитра логика - это в основном авторизация на основе структуры URL-а, кукисов и данных внешних источников + обогащение запроса дополнительной информацией.

отдавать из него команды nginx-у что дальше с запросом делать.

Я правильно понял, что это как раз реализуется через X-Accel-Redirect?

Агась

Haskell: https://hackage.haskell.org/package/http-reverse-proxy

nginx + (lua-module || haskell-module)