Как ограничить объем данных на запись в файлы для юзеров (квоту как поставить?)?

man bash на предмет ulimit

Причем тут bash и квоты?

По-моему, тут надо читать man quota

на родные для линукса ext2 или ext3 поставить легко, даже перекомпилировать ядро может быть не понадобится. Есть Quota-HOWTO.