Отладка(отладчики) без использования вызова ptrace()

Могу ошибатся но:

set follow-fork-mode режим

Устанавливает реакцию отладчика на вызов fork или vfork в программе. режим может быть:

• parent После ветвления отлаживается исходный процесс. Дочерний процесс выполняется беспрепятственно. Это поведение по умолчанию.
• child После ветвления отлаживается новый процесс. Родительский процесс выполняется беспрепятственно.
• ask Отладчик будет запрашивать один из этих вариантов.

на виртуальной машине можно всё

Мне не нужна какая-то особая реакция отладчика на fork. Мне нужен отладчик, не использующий вызов ptrace()

e2dbg

Судя по http://www.eresi-project.org/wiki/TheEmbeddedELFDebugger (Portability of e2dbg) под ARM архитектуру его к сожалению нету. А я сейчас всякие ARM-ы как раз ковыряю

Тогда, как предыдущий комментатор посоветовал, надо через виртуальную машину отлаживать.

Использование виртуальной машины не всегда приемлемо. Например, отлаживаемое приложение может в процессе работы взаимодействовать с железом, которое эмулятор не эмулирует.

тогда удалённая отладка кернела с другой машины. полный стоп системы в любой момент. правда, надо заметить, что софту-то и виртуалкам обычно пофигу, а вот железо как раз подобных вещей не любит и всякие там остановки в отладчике напрочь убивают логику работы с железом.

Только мне не ядро надо отлаживать, а пользовательское приложение. Полный стоп всей системы мне не нужен.

Так и задавай вопрос: «Как дебажить программу, которая форкается и цепляется к форку ptrace'ом».

Вопрос не по конкретному сценарию отладки программы которая форкаеся и цепляется к форку через ptrace. Вопрос в том, как отлаживать программу, которая в процессе работы каким-то образом препятствует использованию ptrace (например форкается и цепляется к форку через ptrace и динамически меняет исполняемый код посредством этого. Или лезет в /proc/self/status и проверяет там TracerPid. Или еще как-нибудь).

Думаю, тебе придётся реализовывать что-то такое в ядре.
Смотри реализацию gdbserver. Сделать свой системный вызов и переделать на него gdbserver.