Airflow DAG"似乎只在本地存在.主调度程序似乎并不知道它的存在"

bro*_*els 13 airflow

我使用气流进行Spark作业的工作流程.安装后,我将DAG文件复制到airflow.cfg中设置的DAGs文件夹中.我可以回填DAG以成功运行BashOperators.但总有一个像上面提到的警告.我没有验证调度是否正常,但我怀疑调度可以工作,因为警告说主调度程序不知道我的DAG存在.如何消除此警告并获得调度工作?有人遇到同样的问题可以帮助我吗?

tob*_*bi6 21

这通常连接到调度程序未运行或刷新间隔太宽.没有日志条目存在,因此我们无法从那里进行分析.此外,不幸的是,原因可能会被忽略,因为这通常是问题的根源:

我没有验证调度是否正常.

首先,您应该检查以下两个服务是否都在运行:

airflow webserver
Run Code Online (Sandbox Code Playgroud)

airflow scheduler
Run Code Online (Sandbox Code Playgroud)

如果这没有帮助,请参阅此帖子以获取更多参考:Airflow 1.9.0正在排队但未启动任务

  • 除了上面的回答,即检查````airflow webserver```和```airflow scheduler```是否正在运行,请确保在运行气流的环境中正确设置环境变量`AIRFLOW_HOME`网络服务器和日程安排.我只是第一次测试气流,在一个终端我已经设置了环境变量,我在运行webserver的位置,而我在运行schedule的终端,我忘了在那里设置它.因此我有同样的错误 (3认同)
  • 感谢您的评论和对tobi的赞赏,在调度程序启动后,警告消失了, (2认同)