sql >> Database >  >> RDS >> Mysql

Hoe mysql-records verkrijgen en verwerken met Airflow?

Ik worstelde hier de afgelopen 90 minuten echt mee, hier is een meer declaratieve manier om te volgen voor nieuwkomers:

from airflow.hooks.mysql_hook import MySqlHook

def fetch_records():
  request = "SELECT * FROM your_table"
  mysql_hook = MySqlHook(mysql_conn_id = 'the_connection_name_sourced_from_the_ui', schema = 'specific_db')
  connection = mysql_hook.get_conn()
  cursor = connection.cursor()
  cursor.execute(request)
  sources = cursor.fetchall()
  print(sources)

...your DAG() as dag: code

task = PythonOperator(
  task_id = 'fetch_records',
  python_callable = fetch_records
)

Dit keert terug naar de logboeken van de inhoud van uw DB-query.

Ik hoop dat iemand anders hier iets aan heeft.



  1. Is het veilig om leesbare wachtwoorden *tijdelijk* in MySQL op te slaan?

  2. Na het installeren van de nieuwste versie van MySQL krijg ik de foutmelding:#1366 - Onjuiste integerwaarde:'' voor kolom 'group_id' op rij 1

  3. Prestatieverrassingen en veronderstellingen:STEL NOCOUNT IN OP

  4. dubbele vermeldingen in tabel verwijderen