GUI(Qt)&MPI

Раздели программу на две: одна- ГУИ, другая - для вычисления, общения между ними - DBus, либо собственный протокол. С потоками проблем много - нужно блокировки ставить, значительно увеличишь время на разработку.

ПС DBus - поддерживает асинхронные сообщения, так что ГУЙня блокироваться не будет:)

А без mpirun или mpiexec нельзя стартануть параллельный код между MPI_Init и MPI_Finalaze на нужном числе процессоров кластера?

"Если очень захотеть, можно в космос полететь..."

Можно, конечно. В большинстве реализаций, mpirun -- всего лишь скрипт на shell. Только вот нафига? Он для того и сделан, чтобы не возиться с деталями реализации способа обмена данными.