В файле /etc/X11/XF86Config. Но видеорежимы настраиваются руками в XFree, а сервер выбирает самый подходящий. Почитай VideoModes.doc, возьми калькулятор и сделай как надо, ничего сложного в этом нет. Нужно обязаттельно правильно указать параметры монитора VertRefresh и HorizSync.