Так как, возможно, собираюсь грабить большую область экрана, клёво было бы надрать дофига несжатых (хоть нафиг BMP) файлов на два гига, а потом уже я бы запустил mencoder...
Иксовый. Даже OpenGL-евый. Но он "в иксы" выведен. Если конечно можно сказать, что работающий в иксовом окне OpenGL-прямоугольник, это "выведено в иксы"...
Как уже сказали - xvidcap, но он очень тормозной и ест много ресурсов системы. Если не обязательно mpeg - то лучше взять recordmydesktop, он кодирует в ogg/theora.