Airflow-如何正确定义每天DAG执行的时间?
创始人
2024-08-01 13:31:57
0

在 Airflow 的 DAG 中,可以通过 schedule_interval 来为 DAG 定义执行频率。默认情况下,该参数的值为 None,表示 DAG 不会被周期性地执行。如果需要周期性地执行 DAG,需要设置 schedule_interval 参数的值。

为了正确地定义 DAG 的执行时间,需要了解 Airflow 中的调度器。Airflow 的调度器是基于 UTC 时间的。因此,需要将本地时间转换为 UTC 时间来正确地定义执行时间。

以下是一个将 DAG 每天凌晨 1 点执行的代码示例:

from datetime import datetime, timedelta
from airflow import DAG
from airflow.operators.dummy_operator import DummyOperator

# 定义 DAG
dag = DAG(
    'my_dag',
    schedule_interval=timedelta(days=1),  # 每天执行一次
    start_date=datetime(2022, 1, 1),  # DAG 的开始日期
    catchup=False  # 不需要回溯 DAG 的历史运行记录
)

# 定义 DAG 中的任务
task1 = DummyOperator(task_id='task1', dag=dag)

# 设置每天凌晨 1 点执行
task1.execution_date = datetime(2022, 1, 1, 1, 0, 0)  # 本地时间
task1.start_date = dag.timezone.convert(task1.execution_date)  # 转换为 UTC 时间

在上述代码中,schedule_interval 设置为 timedelta(days=1),表示每天执行一次。start_date 设置为 datetime(2022, 1, 1),表示 DAG 的开始日期为 2022 年 1 月 1 日。catchup 设置为 False,表示不需要回溯 DAG 的历史运行记录。

在定义 DAG 中的任务时,可以通过 execution_datestart_date 来设置任务的执行时间。在上述代码中,将 task1 的执行时间

相关内容

热门资讯

Android Recycle... 要在Android RecyclerView中实现滑动卡片效果,可以按照以下步骤进行操作:首先,在项...
安装apache-beam==... 出现此错误可能是因为用户的Python版本太低,而apache-beam==2.34.0需要更高的P...
Android - 无法确定任... 这个错误通常发生在Android项目中,表示编译Debug版本的Java代码时出现了依赖关系问题。下...
Android - NDK 预... 在Android NDK的构建过程中,LOCAL_SRC_FILES只能包含一个项目。如果需要在ND...
Alertmanager在pr... 首先,在Prometheus配置文件中,确保Alertmanager URL已正确配置。例如:ale...
Akka生成Actor问题 在Akka框架中,可以使用ActorSystem对象生成Actor。但是,当我们在Actor类中尝试...
Agora-RTC-React... 出现这个错误原因是因为在 React 组件中使用,import AgoraRTC from “ago...
Aksnginxdomainb... 在AKS集群中,可以使用Nginx代理服务器实现根据域名进行路由。以下是具体步骤:部署Nginx i...
Alertmanager中的基... Alertmanager中可以使用repeat_interval选项指定在一个告警重复发送前必须等待...
AddSingleton在.N... 在C#中创建Singleton对象通常是通过私有构造函数和静态属性来实现,例如:public cla...