pam_radius идущий в дистрибах(RH6.2 рассматриваю..) -- только для аккаунтинга.
выкачивай pam_radius_auth -- он умеет аутентификацию делать.
для POP3 авторизацию я прикрутил -- но тока приходится юзверей в системе заводить.
SMTP? для чего конкретно? SMTP_AUTH и/или проверка существования юзверя в системе при приеме почты.. впрочем не того, ни другого не наю :))
похоже стоит задача организовать почту для вирт. юзверей? у меня такая же есть в будущем :) пиши -- anton@izh.com