mkvmerge не распознает .avi mencoder'a

Во-первых, неверно указан контейнер. Нужно указать -of avi вместо -of rwavideo.

Во-вторых, номер title на DVD указан немного не понятно. dvd://01 — зачем это? Достаточно и dvd://1, а вообще нужно конкретно знать структуру title'ов на записанном DVD, чтобы указать нужные. То есть, должно быть что-то подобное: dvd://1-4 -chapter 1-5. title'ы и chapter'ы необходимо знать заранее, иначе не понятно, что получиться в результате.

В-третьих. Зачем так усложнять с фильтрами?

Советую использовать x264, тогда и картинка получиться хорошая, и размер достойный, и скорость сжатия приличная. Как-то так:

mencoder -o source.avi -of avi -nosound -ofps 25 -ovc x264 dvd://0 -chapter 1-4 -dvd-device /path/to/dvd/structed/directory

Ну,по-порядку,про rawvideo это я подсмотрел в одном источнике,но там это было на примере кодирования именно х264,так что может действительно надо исправить на avi.Title именно тот что мне нужен,01,может можно и просто 1,но и стаким значением файл перекодировался норм.Фильтры я взял тут http://www.mplayerhq.hu/DOCS/HTML/ru/menc-feat-enc-libavcodec.html из примеров,там где «высокое качество»,ничего не менял,только битрейт добавил. А насчет х264 - у меня mplayer собран без него,пересобирать лень(изначально конечно все делал по туториалу с х264,пока ошибки не пошли)=) То что рипнулось по указанной в первом посте команде проигрывается нормально,только не перематывается(даже с включенной опцией «перестроить индекс» в мплеере). Судя по всему надо поменять rawvideo на avi.Позже попробую.

Действительно дело было в неправильном контейнере,поставил avi и все получилось.