Есть "мягкие" (soft) и "жесткие" (hard) квоты. При превышении лимитов "мягкой" квоты юзер получит предупреждение, а спустя некоторое время запись ему будет запрещена (но не сразу). Жеские квоты превысить нельзя. Так что проверьте, какой лимит, мягкий или жесткий, Вы пытаетесь превысить.
Родной, какие у тебя проблемы?
Вот, как работают квоты у меня:
$ /sbin/quotacheck -a
quotacheck: Quota for users is enabled on mountpoint /home so quotacheck might damage the file.
Please turn quotas off or use -f to force checking.
$ quota
Disk quotas for user ilya (uid 500):
Filesystem blocks quota limit grace files quota limit grace
/dev/hda7 211824 2096000 3072000 764 0 0
$ dd if=/dev/zero of=./bigfile bs=1M count=4096
hda7: warning, user block quota exceeded.
hda7: write failed, user block limit reached.
dd: writing `./bigfile': Disk quota exceeded
2791+0 records in
2790+0 records out
Еще раз повторю, ты хорошо понимаешь, что квота создается на файловой системе?