Ik heb eindelijk het antwoord gevonden. MongoDB-replicaset heeft zowel een gebruikersaccount als een sleutelbestand nodig. Keyfile lijkt voor authenticatie tussen servers in de replicaset, niet voor inloggen.
Maak een mongodb-sleutelbestand op linux, kopieer naar alle db-servers met modus 600
intact:
cd
openssl rand -base64 741 > mongodb.key
chmod 600 mongodb.key
mongod.conf-bestand:
replication:
replSetName: rs0
security:
authorization: enabled
keyFile: /home/USERNAME/mongodb.key
Beheerder:
(just like in question content)