создать пользователя в linux без shell и домашнего каталога

На крайняк всегда можно ручками вписать в файлы /etc/paddwd, /etc/shadow, /etc/group, /etc/gshadow или эти файлы подкорректировать, как надо. На самый крайняк, в этих файлах десятки таких пользователей в качестве примера.

useradd -d /dev/null -s /dev/null _user_name_
или
useradd -d /dev/null -s /sbin/nologin _user_name_