Была та же беда, с монитором Samsung

У меня Samsung SyncMaster 15GLi, его я обычно выбирал при установке, но в RedHate, у меня не правильно где-то частота вписана. Теперь я переконфигурирую X через setup, и ставлю там Custom - была прописанна частота развертки. Высокочастотный монитор (Хай Фрэкуэнси), и указываю развертку 50-90. С такими параметрами он мне дает 1024x768 в 16bit цвете без дрожания. Карточка у меня S3 V2, с 1Mb памяти. Может быть еще нестабильно напряжение в электрической сети.

Скорее всего заказанная частота развертки больше возможностей монитора. Уменьши ее.

Можно отрегулировать с помощью xvidtune + почиттать (здесь же) faq по настройке монитора в X