Dat kun je toch zeker doen:
DELETE FROM `table1`, `table2` WHERE `orderId` = 500
zie http://dev.mysql.com/doc/refman/ 5.0/en/delete.html
[EDIT:]
Dit is de hele truc:
DELETE FROM `orders`, `orders_items`
USING `orders`
INNER JOIN `orders_items` ON `orders`.`orderId` = `orders_items`.`orderId`
WHERE `orders`.`orderId`= 500
Als orderId een varchar is, verander dan de instructie in = '500'
.