А как по мне - так наиболее здравая идея - запихивать все одну директорию в/usr, а во все остальные места пихать симилинки для совместимости. А не так как сейчас, и уж тем более, не так как в венде...
Ну про библиотеки выше уже сказали. Гораздо удобнее, когда библиотеки в одном месте, исполняемые файлы - в другом, часто изменяющиеся файлы данных - в третьем, конфиги - в четвёртом, ну и так далее. Не вижу смысла хранить все файлы одного приложения в одной директории, при наличии пакетного менеджера это не нужно.