ulimit -a loste het mysterie op:
core file size (blocks, -c) 1
data seg size (kbytes, -d) unlimited
scheduling priority (-e) 0
file size (blocks, -f) unlimited
pending signals (-i) 30619
max locked memory (kbytes, -l) 64
max memory size (kbytes, -m) 3338968
open files (-n) 1024
pipe size (512 bytes, -p) 8
POSIX message queues (bytes, -q) 819200
real-time priority (-r) 0
stack size (kbytes, -s) 8192
cpu time (seconds, -t) unlimited
max user processes (-u) 30619
virtual memory (kbytes, -v) 6496960
file locks (-x) unlimited
Het werkte nadat de maximale geheugengrootte en het virtuele geheugen op onbeperkt waren ingesteld en alles opnieuw was opgestart. Trouwens, het volgende bestand had weer 2GB.
Sorry dat ik je stoor, maar ik was wanhopig. Misschien helpt dit iemand die 'googlet' met een soortgelijk probleem.