气流:通过带有参数/配置的 UI 触发 DAG

cha*_*der 7 airflow airflow-scheduler

我看到可以使用气流命令行使用参数/配置键值对来触发_dag:

对于 Apache Airflow,通过 CLI 手动触发 DAG 时如何传递参数?

就我而言,我想通过气流 UI 集中所有气流操作(最好不要授予 CLI 访问权限),它有一个用于触发 dag 的按钮:

在此处输入图片说明

如何通过 UI 传递外部参数/配置?

Dan*_*ang 10

假设您使用的是最新版本的 Airflow 或者可以升级,那么您很幸运。Airflow 1.10.8 中的#5843中的AIRFLOW-5843下添加了对使用配置 blob 触发 DAG 运行的支持。它不是通过您指向的相同触发 DAG 图标,而是通过从“浏览”->“DAG 运行”->“创建”创建 DAG 运行。

支持从添加它的拉取请求中复制的新表单的屏幕截图。

添加 DAG 运行

该表单还将验证 conf 的 JSON,这实际上可能比 CLI 更进一步。

  • 我使用的是 1.10.9 版本,并且“Conf”选项不存在。 (4认同)
  • 我使用的是 1.10.10 版本,Conf 选项也不存在 (3认同)
  • 你们想要 1.10.12 或更高版本;) (3认同)

Ram*_*mji 9

对于 Airflow 的最新版本 [我们使用 2.2.2],我们只传递配置 json

当我们单击 DAG 上可用的“触发/播放”按钮时,我们会看到一个包含 2 个选项的下拉菜单

  1. 触发DAG
  2. 通过配置触发 DAG

在此输入图像描述 单击第二个选项,您可以传递 json 格式的conf,该文件可以在脚本中使用,并且可以在创建配置 JSON 时查看其用法,如下所示。

要访问 DAG 中的配置,请使用 {{ dag_run.conf }}。由于 core.dag_run_conf_overrides_params 设置为 False,因此在此处传递任何配置都不会覆盖任务参数。

在此输入图像描述

  • 您将如何在 DAG 代码中访问此配置? (2认同)