Airflow:通过UI触发带有参数/配置的DAG
创始人
2024-08-02 20:31:09
0

要通过UI触发带有参数/配置的DAG,可以按照以下步骤进行操作:

  1. 创建一个DAG(Directed Acyclic Graph)对象,并设置参数和配置项。例如,可以使用default_args参数设置默认参数,使用params属性设置其他参数。
from airflow import DAG
from airflow.operators.python_operator import PythonOperator
from datetime import datetime

default_args = {
    'start_date': datetime(2021, 1, 1)
}

def my_task(ds, **kwargs):
    my_param = kwargs.get('params', {}).get('my_param', 'default_value')
    print(f"Running task with my_param={my_param}")
    # TODO: 执行具体任务的代码

with DAG('my_dag', default_args=default_args, schedule_interval=None) as dag:
    task = PythonOperator(
        task_id='my_task',
        provide_context=True,
        python_callable=my_task,
        op_kwargs={'params': {'my_param': 'custom_value'}}
    )
  1. 在Airflow的UI中创建一个新的DAG运行。在创建过程中,可以在"Conf"字段中设置参数值。例如,可以将my_param设置为custom_value

  2. 运行DAG,并在日志中查看任务运行时的输出。可以看到任务使用了通过UI设置的参数值。

通过上述步骤,可以在Airflow的UI中触发带有参数/配置的DAG,并根据需要进行自定义。

相关内容

热门资讯

Android Studio ... 要解决Android Studio 4无法检测到Java代码,无法打开SDK管理器和设置的问题,可以...
安装tensorflow mo... 要安装tensorflow models object-detection软件包和pandas的每个...
安装了Laravelbackp... 检查是否创建了以下自定义文件并进行正确的配置config/backpack/base.phpconf...
安装了centos后会占用多少... 安装了CentOS后会占用多少内存取决于多个因素,例如安装的软件包、系统配置和运行的服务等。通常情况...
按照Laravel方式通过Pr... 在Laravel中,我们可以通过定义关系和使用查询构建器来选择模型。首先,我们需要定义Profile...
按照分类ID显示Django子... 在Django中,可以使用filter函数根据分类ID来筛选子类别。以下是一个示例代码:首先,假设你...
Android Studio ... 要给出包含代码示例的解决方法,我们可以使用Markdown语法来展示代码。下面是一个示例解决方案,其...
Android Retrofi... 问题描述:在使用Android Retrofit进行GET调用时,获取的响应为空,即使服务器返回了正...
Alexa技能在返回响应后出现... 在开发Alexa技能时,如果在返回响应后出现问题,可以按照以下步骤进行排查和解决。检查代码中的错误处...
Airflow Dag文件夹 ... 要忽略Airflow中的笔记本检查点,可以在DAG文件夹中使用以下代码示例:from airflow...