Дык-ы, ты попробуй gmplayer запускать из главного меню... Mplayer надо запускать в виде mplayer [options] <filename>. Притом параметр, указываемый в "<>" является обязательным. А при запуске mplayer-a из "главного меню" тебе просто в stdout выдало сообщение о том, как правильно плеером пользоваться...
З.Ы.: не забудь перекомпилить как тебе указали - с опцией --enable-gui.