Долго не мог понять вопрос. Что надо-то? Снять кадр из фильма?
mplayer -vo x11 ... прокатит для 99% видеокарт. Как растащить картинку на весь экран для этого устройства вывода (НЕ КОДЕКА!!!) -- читать документацию на MPlayer.
P.S. Надеюсь, чем снимать скриншот, проблем не возникает? ;-) gimp, import.