Как провести мониторинг использования памяти?

>Как осуществлять мониторинг использования памяти наименьшим образом вмешиваясь в работу процесса и не изменять работу механизмов динамического распределения памяти?

/proc/<pid>/status показывает в т.ч. статистику по памяти процесса.

google: gcore

malloc при выделении памяти записывает в смежную область некоторую отладочную информацию, аналогичным образом можно собирать необходимые для мониторинга данные самостоятельно. см. gmalloc и отладочную версию malloc из QNX. главная проблема при таком подходе - эффективная реализация дампа этих данных (IO здесь будет бутылочным горлышком)

механизм динамического распределения при этом не меняется

> но при этом не останавливать процесс?

Ну ты загнул. Это тебе нужен спец. язык со спец. реализацией VM.

Либо останавливать сигналом, читать образ памяти, и запускать работать дальше. Типа как шелл ^Z -> bg.

>Либо останавливать сигналом, читать образ памяти, и запускать работать дальше. Типа как шелл ^Z -> bg.

снятие .core именно таким макаром вроде бы и происходит, не?