ну так вот. известная в интернетах проблема. решения пока не нашел. может тут есть гуру, которые справились(если это возможно).
при запущенном xcompmgr пропадает вертикальная синхронизация xvideo, в OpenGL приложения синхронизируется криво(вверху экрана граница кадров), при выводе через vdpau вообще нет синхронизации.
драйвер nvidia-180.44, xorg-1.6