In MariaDB en MySQL is hiervoor geen optie. Ik liep een paar maanden geleden tegen hetzelfde probleem aan als jij, ik heb veel gezocht en heb het uiteindelijk gedeeltelijk opgelost door een speciale opslagruimte op de NAS te creëren voor de tijdelijke datasets.
Maak een map op uw NAS of een partitie op een interne HDD, deze is per definitie beperkt in grootte, koppel deze vervolgens en wijs in de mysql ini de tijdelijke opslag toe aan deze schijf:(kies windows/linux)
tmpdir="mnt/DBtmp/"
tmpdir="T:\"
mysql-service moet na deze wijziging opnieuw worden gestart.
Met deze aanpak heb je, als de schijf eenmaal vol is, nog steeds "rare problemen" met on-disk queries, maar de andere problemen zijn verdwenen.