1) Какой ни делай - качество потеряется.
2) Для размер/качество (ИМХО) только эксперимент.
(у меня с одними и теме-же параметрами разные диски хватало
по разному, приходилось подгонять).
желательно, чтобы значение bpp (bits/pixel) было в районе 0.15-0.25; c практической стороны битрейт должен быть таким, чтобы авишка на cd (или 2 CD) влезла :)
Качаем MPlayer, в архиве читаем файло /DOCS/tech/encoding-tips.txt. Там всё расписано. В папке /TOOLS лежат скрипты, упомянутые в этом файле. Можно еще почитать доки в /HTML/en (или /HTML/ru, кому как больше нравится).