小编Ale*_*par的帖子

Airflow SSH 在警告后收到 SIGTERM:记录的 pid 1098 与当前 pid 31631 不匹配

我在这里需要一些帮助。

在docker容器+LocalExecutor上运行airflow。

Airflow版本是2.0.0(https://pypi.org/project/apache-airflow/2.0.0/

我正在使用 SSHOperator 的包装器运行一个长时间运行的任务。基本上,我打开一个 SSH 会话来在 Spark Edge 节点中运行 Spark-Submit 作业。(YARN JOB 成功,但气流任务失败)

任务以 PID 31675 开始:

[2021-06-24 18:29:09,664] {standard_task_runner.py:51} INFO - Started process 31675 to run task
Run Code Online (Sandbox Code Playgroud)

然后一段时间后收到此警告:

记录的pid 1098与当前pid 31631不匹配

然后任务失败:

[2021-06-24 19:45:44,493] {local_task_job.py:166} WARNING - Recorded pid 1098 does not match the current pid 31631
[2021-06-24 19:45:44,496] {process_utils.py:95} INFO - Sending Signals.SIGTERM to GPID 31675
[2021-06-24 19:45:44,496] {taskinstance.py:1214} ERROR - Received SIGTERM. Terminating subprocesses.
[2021-06-24 19:45:44,528] {taskinstance.py:1396} ERROR - LatamSSH operator error: Task …
Run Code Online (Sandbox Code Playgroud)

ssh paramiko airflow

5
推荐指数
0
解决办法
948
查看次数

标签 统计

airflow ×1

paramiko ×1

ssh ×1