автономный glwidget

все запихано в один поток
как мне сделать, чтобы glwidget был автономным и рисовался постоянно?

Очевидно, обслуживать GL из отдельного потока.

с помощью настроек модальности можно это сделать?

А что, отдельный поток запустить — не судьба?

А вообще, в GTK по идее такие настройки есть. У меня, например, при проведении срезов по изображению, открыты два окна: само изображение и отображение среза. И ничего не подвисает. Уже даже не помню, как это делал; если интересно — глянь в коде (файл gtk.c из fitsview).