Gebruik gewoon de date trefwoord en ISO-constanten:
select *
from file_log f
where F.DCP_SRCE_FILENM_FK in ('ABC','DEF') and
F.TRANS_DT >= date '2017-08-25' and
F.TRANS_DT <= date '2017-08-30';
U krijgt de foutmelding omdat de tweede constante to_date() . ontbreekt . Maar je kunt net zo goed de juiste syntaxis gebruiken voor een datumconstante.