Ну я так пологаю если сказать ему make install то он сам найдет что и куда положить. А так видимо в xmms/Plugins или вроде того.
Хотя такой совет - смотреть из-под XMMS фильмы - извращение (сам этим долгое время занимался).
Щас смотрю в консоли командой X& mplayer -vo dga -vc odivx ...
Увы. Не положил он куда надо. И не появился плагин в списке. Что самое любопытное ни в описании xmms, ни в описании avifile не написано как добавить к списку плагинов. Может это и извращение, но как говорится "обеспечь, коль я достоин"
Вообщем глянул я где они у меня лежат-
2 файла libavixmms.so libavixmms.la (у меня маразм правда -- мб libxmmsavi.so ...la) в директории .../lib/xmms/Input. По умолчанию make install их видимо в /usr/local/lib или в /usr/lib кинул. Перекинь и ldconfig на всякий случай - должно заработать