Эти настойки "сидят" в /etc/X11/XF86Config, но руками там менять частоту лучше
не надо (я вообще-то лох в этом вопросе, - просто прочел, возьмите доку к монитору
и впишите в программу настройки Х-сервера (у меня XF86Setup) интервалы частот,
которые там указаны. Как ни странно :) все сразу заработало).
Лучшее, что могу предложить - найди в дистрибутиве XFree86-FAQ