толи я гуглить разучился, толи ffmpeg так не умеет.
уточню, речь не про смещение по координатам для x11grab, а именно запись окна. разница в том, что окно должно захватываться независимо от того, на переднем оно плане или нет (или на другом рабочем столе)