Ik heb een werkende oplossing voor het probleem gevonden (het werkte in ieder geval voor mij met JDev 12.1.2.0, maar ik geloof dat het ook op 11.x zou moeten werken):
Voeg de volgende regel toe aan jdk.conf (JDEV_HOME/jdeveloper/ide/bin) en start JDeveloper opnieuw:
AddVMOption -Dfile.encoding=UTF-8