Придётся как минимум понять, какой драйвер сейчас используется. Запости выхлоп glxinfo (а заодно и содержимое /var/log/Xorg.0.log) куда-нибудь, например, на http://pastebin.com
Вообще, modeline писать не обязательно. Это нужно только в том случае, если xorg не удалось определить параметры монитора по EDID (Option «dpms»). Достаточно указать необходимое разрешение в сабсекции Display секции Screen.
Доступные в текущей конфигурации режимы можно посмотреть 'xrandr -q' из одноименного пакета, и установить нужный им же.
Проприетарный драйвер для этой видеокарты ничего существенного (кроме головной боли) не даст, хотя при нём поставляется графическая утилитка
для конфигурирования/выбора режима. Для xrandr тоже существуют графические обвязки, для разных DE разные.
Откуда я знаю, из какого года он сюда переместился на своей машине времени :)
Ну, в принципе, в теме уже разобрали. На максимальном разрешении у него реально 60Гц. Только на ЭЛТ, в отличие от ЖКД, не было физического разрешения и поэтому на максимальном мало кто сидел именно потому что оно было уже некомфортным. Размытый пиксел и низкая частота развёртки. У меня был такой же по параметрам — Philips 107T5. Сидел только в 1024x768@85 в 2004-м. Правда, уже в 2005-м взял Samsung 710N с 1280x1024 (который, кстати, до сих пор вторым стоит — вот, прямо сейчас слева на столе :) )