Для этого надо установить SASL (Simple Authentication and Security Layer), затем скомпилить sendmail с его поддержкой.
После этого прописать нужные параметры в sendmail.mc, создать из него cf и запустить sendmail.
Далее настроить Sendmail.conf (находится там, где лежат библиотеки sasl, обычно /usr/lib/sasl) на соответствующий метод авторизации, исходя из него создать (либо не создавать, если метод pam, passwd, ...) базу данных пользователей. Все :-)