Не работает useradd -D -s /bin/false

Не знаю насколько это касается безопасности, наверное в какой то степени да, но в любом случае хотелось бы знать что вы хотите сделать используя эту команду, может быть просто вам нужно использовать немного в другом виде для ваших целей.

А так выглядит всё верно. Поскольку её использование в данном виде подразумевает изменение дефолтного значения SHELL=/bin/sh на то что указываете вы SHELL=/bin/false , а больше ничего вы в таком виде и не делаете.

Посмотреть дефолтные настройки, вы сможете запустив просто useradd -D

А то что он не меняется, то нужно смотреть какие права выставлены у вас для пользователя, на корректно настроенном сервере всё работает так как нужно.

Плюньте, и просто в /etc/passwd для этого юзверя поменяйте /bin/sh на /bin/false :-)