Исправление AnDoR, 13.11.13 18:45 (текущая версия) :
rsync -a --remove-source-files --exclude '*.mp3'
UPD: Хотя нет, он же будет копировать, а потом удалять. Ну можно набросать однострочник.
Исходная версия AnDoR, 13.11.13 18:44: