Met je originele SQL als basis (als je eerst wilt sorteren op id en dan op sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Als het niet de bedoeling is om de "duplicaten" te verwijderen, kan de volgende sql worden gebruikt in plaats van de bovenstaande:
$sql="select * from gallery order by id desc, subid desc limit 0,4";