ModuleNotFoundError - 导入 Python 文件时出现气流错误

str*_*der 7 python airflow

我创建了一个非常简单的 DAG 来使用 PythonOperator 执行 Python 文件。我正在使用 docker 映像来运行 Airflow,但它无法识别我拥有 .py 文件的模块

结构是这样的:

main_dag.py
plugins/__init__.py
plugins/njtransit_scrapper.py
plugins/sql_queries.py
plugins/config/config.cfg
Run Code Online (Sandbox Code Playgroud)

cmd 运行 docker Airflow 镜像:

docker run -p 8080:8080 -v /My/Path/To/Dags:/usr/local/airflow/dags  puckel/docker-airflow webserver
Run Code Online (Sandbox Code Playgroud)

我已经尝试过airflow initdb重新启动网络服务器,但它一直显示错误ModuleNotFoundError: No module named 'plugins'

对于我正在使用的导入语句:

from plugins import njtransit_scrapper
Run Code Online (Sandbox Code Playgroud)

这是我的 PythonOperator:

tweets_load = PythonOperator(
    task_id='Tweets_load',
    python_callable=njtransit_scrapper.main,
    dag=dag
)
Run Code Online (Sandbox Code Playgroud)

我的 njtransit_scrapper.py 文件只是一个收集推特帐户的所有推文并将结果保存在 Postgres 数据库中的文件。

如果我删除 PythonOperator 代码并导入代码,则代码可以正常工作。我已经测试了几乎所有内容,但我不太确定这是一个错误还是其他什么。

有可能当我为 docker 映像创建一个卷时,它只是导入主 dag 并停在那里,导致不导入整个包?

cry*_*bhu 3

为了帮助其他可能登陆此页面并因与我犯同样错误而出现此错误的人,我将在这里记录下来。

我的文件夹中有一个不必要的__init__.py文件dags/
删除它解决了问题,并允许所有 dags 找到它们的依赖模块。