Ik heb het zelf opgelost.
Ik had ook moeten vermelden dat ik vanaf een andere machine verbinding probeer te maken met de MongoDB-instantie. Dat mag niet met de MongoDB-presets.
Dus ik moest in het /etc/mongod.conf Bestand de waarde achter bindIp veranderen van 127.0.0.1 tot 0.0.0.0.