Новую Modeline надо сочинять однако!
Это которая в XF86Config (речь об Xах, я правильно понял?), у Debiana это /etc/X11/XF86Setup..
Могу порекомендовать xf86setup (не уверен, может не во всех дистрибутивах имеется).
Он (xf86setup) довольно таки userfriendly.
Можно и ручками (есть доки, в том числе и на этом сервере, в разделе Документация, настройка графического режима).
Я отдаю себе отчет в том, что это не полная пошаговая инструкция по "изменению частоты обновления монитора", но никто и не обещал, что будет легко..

Соврал, не удержался, sorry.. Не /etc/X11/XF86Setup, а /etc/X11/XF86Config !

скорее всего

у него с конфиге стоит ограничение частоты вертикальной (и/или) горизотальной развёртки. А такие modeline как правило в стандартных конфигах как проваило есть, ничего менять не нужно.

После появления программы
xvidtune
мало кто ручками это правит.