在Airflow中,可以通过DagBag对象的get_dag(dag_id)方法获取指定DAG的实例,并使用实例的on_failure_callback属性设置一个回调函数,在DAG执行失败时调用该回调函数。
示例代码如下:
from airflow import DAG
from datetime import datetime
from airflow.operators.bash_operator import BashOperator
from airflow.models import Variable
from airflow.utils.dag import DAG
def notify_on_failure(context):
# 发送通知代码
print("DAG execution failed")
args = {
'owner': 'airflow',
'start_date': datetime(2019, 1, 1),
'email': ['airflow@example.com'],
'email_on_failure': True
}
dag = DAG(
dag_id='my_dag',
default_args=args,
schedule_interval=None,
)
with dag:
t1 = BashOperator(
task_id='task_1',
bash_command='echo "Hello World!"',
dag=dag
)
t2 = BashOperator(
task_id='task_2',
bash_command='exit 1',
dag=dag
)
# 设置任务失败回调函数
dag = DAG(
'my_dag',
default_args=args,
on_failure_callback=notify_on_failure,
schedule_interval=None,
)
t1 >> t2
在上面的示例中,我们在DAG定义中设置了on_failure_callback属性,其值为一个名为notify_on_failure的回调函数。当DAG中的任意一个任务失败时,Airflow将会调用该函数,并传递一个包含任务执行上下文的字典参数给该函数。在函数中,我们可以编写对失败事件的处理代码,例如发送通知或记录日志等。