Как в Linuxe так грохнуть файл, что-бы его никто и никогда не восстановил ?

удалить и запустить fsck -f

А ежели удалять с / ? Fdisk на монтированый партишн???
Это уж тогда cat /dev/null >/forcefsck; /sbin/reboot .....

Запиши его каким-нибудь мусором перед удалением.