AirflowDAG中的prev_execution_date_success是None,但某种情况下又不是
创始人
2024-08-01 21:30:34
0

这可能是由于 Airflow 中的一个 bug 导致的。要解决这个问题,可以在 DAG 文件中添加以下代码:

from airflow.utils.state import State from datetime import datetime, timedelta

在 DAG 文件的顶部添加如下代码

from airflow.operators.dummy_operator import DummyOperator

default_args = { 'owner': 'airflow', 'depends_on_past': False, 'start_date': datetime(2019, 1, 1), 'email': ['airflow@example.com'], 'email_on_failure': False, 'email_on_retry': False, 'retries': 1, 'retry_delay': timedelta(minutes=5), 'catchup': False }

dag = DAG( 'my_dag', default_args=default_args, description='My DAG', schedule_interval='0 0 * * *', catchup=False )

添加以下代码

begin = DummyOperator(task_id='begin', dag=dag) end = DummyOperator(task_id='end', dag=dag)

在 DAG 中添加以下代码

def fix_dag(dag): """ 修复 Airflow 的 bug,以便使 prev_execution_date_success 正常工作。 """

def fix_task(task):
    task.prev_execution_date_success = task.execution_context.get(
        'prev_execution_date_success', None)

for task in dag.tasks:
    if task.task_type != 'SubDagOperator':
        fix_task(task)
    else:
        subdag = task.subdag
        if subdag is not None:
            fix_dag(subdag)

fix_dag(dag)

添加以下代码

begin >> end

这个 fix_dag() 函数将执行一个递归遍历 DAG 的操作,以确保 prev_execution_date_success 在每个任务中都被正确设置。这个函数将在 DAG 的构造函数中被调用,以便在 DAG 加载时自动执行。

相关内容

热门资讯

Android Recycle... 要在Android RecyclerView中实现滑动卡片效果,可以按照以下步骤进行操作:首先,在项...
安装apache-beam==... 出现此错误可能是因为用户的Python版本太低,而apache-beam==2.34.0需要更高的P...
Android - 无法确定任... 这个错误通常发生在Android项目中,表示编译Debug版本的Java代码时出现了依赖关系问题。下...
Android - NDK 预... 在Android NDK的构建过程中,LOCAL_SRC_FILES只能包含一个项目。如果需要在ND...
Alertmanager在pr... 首先,在Prometheus配置文件中,确保Alertmanager URL已正确配置。例如:ale...
Akka生成Actor问题 在Akka框架中,可以使用ActorSystem对象生成Actor。但是,当我们在Actor类中尝试...
Agora-RTC-React... 出现这个错误原因是因为在 React 组件中使用,import AgoraRTC from “ago...
Aksnginxdomainb... 在AKS集群中,可以使用Nginx代理服务器实现根据域名进行路由。以下是具体步骤:部署Nginx i...
Alertmanager中的基... Alertmanager中可以使用repeat_interval选项指定在一个告警重复发送前必须等待...
AddSingleton在.N... 在C#中创建Singleton对象通常是通过私有构造函数和静态属性来实现,例如:public cla...