Запустить приложение в свернутом состоянии

А что за приложение?

Например я hexchat запускал так:

hexchat --minimize=2

Почитай хелп, может там написано.

Копай в сторону: xdotool windowminimize $(xdotool getactivewindow)

wmctrl раньше вроде работал, сейчас не знаю

Для GNOME? devilspie смотри. Тебе нужно по атрибутам окна (какие выберешь) выполнить действие minimize

http://www.foosel.org/linux/devilspie

https://wiki.gnome.org/action/show/Projects/DevilsPie