смотри файл /etc/X11/XF86Config. Там найдешь и удалишь все modeline, еще там есть две строчки, которые за частоту разверток отвечают - пропиши правильные значения, в строчках modes оставь только поддерживаемые монитором разрешения типа "800x600". Можно ничего не удалять, а просто коментить и не забудь сделать резервную копию.