изменить алгоритм шифрования паролей

YaST -> Secutiry and Users -> Edit and create users -> Дополнительные настройки -> Шифрование пароля

а как поменять, не используя Yast (из консоли)?

Не знаю, как в SuSe, но в RedHat это находится в /etc/pam.d/login, там достаточно добавить в одной строке md5 и станет md5:
password required /lib/security/pam_pwdb.so nullok use_authtok md5 shadow
либо /etc/pam.d/system-auth для более поздних дистров:
password sufficient /lib/security/pam_unix.so nullok use_authtok md5 shadow