Прописывается все в /etc/X11/XF86Config
При запуске X'ы выбираю минимальную из максимальных частот
для карточки и для монитора при заданном разрешении
то есть должно быть правильно прописано
VertRefresh
и должна быть строчка
ModeLine
дял твоего разрешения и рефреша !