我应该在哪里为 Airflow 创建一个包含我自己的 DAG 的文件夹?

Sun*_*ing 8 python ubuntu python-2.7 airflow

我必须在 Windows 上使用 Airflow。我是新手,所以有很多问题。

因此,我已经使用 Ubuntu 完成了其中一篇教程中的所有步骤:

sudo apt-get install software-properties-common
sudo apt-add-repository universe
sudo apt-get update
sudo apt-get install python-pip
export SLUGIFY_USES_TEXT_UNIDECODE=yes
pip install apache-airflow
Run Code Online (Sandbox Code Playgroud)

Python版本:Python2.7.15+。

我有我的 /home/user_name/ ,我在其中创建了 AirflowHome 文件夹。然后我做了:

nano ~/.bashrc
export AIRFLOW_HOME=~/home/user_name/AirflowHome (#wrote on the last string)
Run Code Online (Sandbox Code Playgroud)

我跑了

airflow initdb
Run Code Online (Sandbox Code Playgroud)

在/home/用户名/中。

应该在 /home/user_name/AirflowHome/ 中这样做吗?

我也跑了:

airflow webserver -p 8080
Run Code Online (Sandbox Code Playgroud)

它从未完成(可以吗?),但它似乎可以工作,因为我能够到达主气流窗口。

我已经尝试将“dags”文件夹(带有我自己的 dags)放入

/home/user_name/airflow/
/home/user_name/AirflowHome/
/home/user_name/.local/lib/python2.7/site-packages/airflow/dag/
Run Code Online (Sandbox Code Playgroud)

这些都没有在Airflow网络服务器上显示我的SampleFile.py(我检查了文件中的dag_id,没关系)。

现在我需要了解在哪里可以创建一个“dags”文件夹来放置所有 DAG。

如果你帮我解决它,我将非常感激。

amo*_*iov 5

DAG 文件夹的正确路径在文件中设置airflow.cfg(位于/home/user_name/AirflowHome/airflow.cfg)。检查dags_folder参数(实际上是第一个参数)。

它从未完成(可以吗?)

好的,可以。您可以添加-D参数以在后台启动它。

顺便说一句,我记得,您还应该airflow scheduler在另一个终端中运行。


Sun*_*ing 2

我解决了这个问题。

在airflow.cfg中我放了 dags_folder=/home/user_name/.local/lib/python2.7/site-packages/airflow/example_dags .

有效。

当需要添加文件时,将其放入文件夹中并 airflow initdb 在Ubuntu中运行。当您需要从此文件夹中删除文件时,请删除该文件,然后注销并登录 Windows,然后 在 Ubuntu 中运行airflow db init和。airflow webserver