Het probleem was dat mysql /var/tmp als tmpdir gebruikte, wat niet groot genoeg is om de tabel te kopiëren en de benodigde indexen te maken. Ik heb het opgelost door de locatie van tmpdir te wijzigen in een plaats met meer ruimte.
eerst maakte ik /home/mysql/tmp directory
mkdir /home/mysql/tmp
toen veranderde ik de eigenaar van die map in mysql:mysql
chown mysql:mysql /home/mysql/tmp
toen stopte ik mysql-server
service mysql stop
startte het vervolgens opnieuw met het volgende commando:
service mysql start --tmpdir=/home/mysql/tmp