sendmail + /etc/passwd

а зачем тебе это надо

просто хотелось бы отделить базу почтовых юзеров от всех остальных. Ну так как?

про сендмайл нескажу - незнаю
а QMail имеет возможность создания виртуальных юзеров.

chroot Я так думаю что это улрулез :-)

сендмаил не имеет отношение к паролям это просто транспортировщик а вот почтовые агенты отношение имеют . только некоторые по умолчанию используют системные пароли а есть такие агенты в которых можно настраивать все эти дела и тогда у тебя все твои почтовые пользователи будут сидеть где нибудь в базе и отношения к системме никакого и тогда даже если и заломаеш пароль то в системму и не проникнеш. также и со chroot-ом класс получится системма в системме