1) как ни банально это звучит ,но про фрэйм буффер есть целый параграф в документации (/mplayer/docs/video.html) и ФАКе
2) видео в мплеере можно выводить десятком разных способов ,и не все из них требуют fb0 .Набери mplayer -vo help и поэкспериментируй с x11,vesa,xv,sdl,aa или что там у тебя установлено
3) часть документации творчески переведена и доступно изложена на
http://www.mycomp.com.ua/article.php?id=1602http://www.mycomp.com.ua/article.php?id=1674