当气流网络服务器显示错误时Broken DAG: [<path/to/dag>] <error>
,我们如何以及在何处找到这些异常的完整堆栈跟踪?
我试过这些地方:
/var/log/airflow/webserver
- 在执行的时间范围内没有日志,其他日志是二进制的,并且解码时strings
没有给出有用的信息.
/var/log/airflow/scheduler
- 有一些日志,但是是二进制形式,试图阅读它们,看起来主要是sqlalchemy日志可能是气流的数据库.
/var/log/airflow/worker
- 显示运行DAG的日志(与您在气流页面上看到的日志相同)
然后也在/var/log/airflow/rotated
- 找不到我正在寻找的堆栈跟踪.
我使用的是airflow v1.7.1.3
由于某种原因,我无法在docker中安装python的PIL模块.这是我所拥有的描述:
requirements.txt
Pillow
flask
redis
Run Code Online (Sandbox Code Playgroud)
Dockerfile
FROM python:2.7
ADD . /code
WORKDIR /code
RUN pip install -r requirements.txt
CMD python app.py
Run Code Online (Sandbox Code Playgroud)
app.py
import PIL
Run Code Online (Sandbox Code Playgroud)
命令
$ sudo docker build -t web .
Installing collected packages: Pillow, Werkzeug, MarkupSafe, Jinja2, itsdangerous, flask, redis
Successfully installed Jinja2-2.8 MarkupSafe-0.23 Pillow-2.9.0 Werkzeug-0.10.4 flask-0.10.1 itsdangerous-0.24 redis-2.10.3
---> 91dfb38bd480
Removing intermediate container 4e4ca5801814
Step 4 : CMD python app.py
---> Running in e71453f2fab6
---> d62996658bd6
Removing intermediate container e71453f2fab6
Successfully built d62996658bd6
$ sudo docker-compose up …
Run Code Online (Sandbox Code Playgroud)