Упырить мел дженкинсу

-Xmx

Не понял, кто отжирает 30 гигов? Сам Jenkins или собираемый проект?

java

30 гигов

так и должно быть)

а вообще надо логи б глянуть.

компиляли c++, собирали пакеты в нем, все ок было.

Но кому?

Ну вроде проект, но память он отдавать не хочет потом. Т.е. это не разово оно так, а накопительно после нескольких билдов

Ну для начала напиши в /etc/default/jenkins

Если собираете градлом, он может после себя оставлять запущенные демоны, чтобы потом быстрее запускаться.

Пальцем в небо: плагин течёт какой. Достаточно распространённая ситуация, отключай один за другим и смотри на изменения.