лезешь в /etc/XF86Config если у тебя XFree или /etc/xorg.conf и смотришь в секцию
Section "Monitor"
и вручку пишушь свою горизонтальную и вертикальную развертку соответственно в HorizSync и VertRefresh.
Дальше шагаешь в
Section "Screen"
и вписываешь требуемое разрешение экрана.
Вот и все.