带有 django 的 Tensorflow/Keras 与 celery 无法正常工作

Question

我们正在从视频中构建用于人脸识别的脚本，主要使用 tensorflow 来实现基本的识别功能。

当我们直接使用 a python test-reco.py（以视频路径作为参数）尝试 soft 时，它完美地工作。

现在我们正在尝试通过我们的网站将它集成到 celery 任务中。

下面是主要代码：

def extract_labels(self, path_to_video):
    if not os.path.exists(path_to_video):
        print("NO VIDEO!")
        return None
    video = VideoFileClip(path_to_video)
    n_frames = int(video.fps * video.duration)

    out = []
    for i, frame in enumerate(video.iter_frames()):
        if self.verbose > 0:
            print(
                'processing frame:',
                str(i).zfill(len(str(n_frames))),
                '/',
                n_frames
            )

        try:
            rect = face_detector(frame[::2, ::2], 0)[0]
            y0, x0, y1, x1 = np.array([rect.left(), rect.top(), rect.right(), rect.bottom()])*2
            bbox = frame[x0:x1, y0:y1]
            bbox = resize(bbox, [128, 128])
            bbox = rgb2gray(bbox)
            bbox = equalize_hist(bbox)
            y_hat = self.model.predict(bbox[None, :, :, None], verbose=1, batch_size=1)[0]
            # y_hat = np.ones(7)
            out.append(y_hat)
        except IndexError as e:
            print(out)
            print(e)

我们需要尝试捕捉，因为有时第一帧中没有任何人脸。

但是我们有这条线： y_hat = self.model.predict(bbox[None, :, :, None], verbose=1, batch_size=1)[0] 阻塞。就像一个无限循环。

bbox 不为空。

芹菜工人只是阻止它并且您无法退出该过程（热/冷退出永远不会发生）

tensorflow 与 Celery 有什么特定的关系吗？

Answer 1

我有一个非常相似的设置和问题。就我而言，它有助于简单地将所有引用 Keras 内容的导入转移到专用的初始化函数中，从而导致如下设置：

from celery import Celery
from celery.signals import worker_process_init

CELERY = ...

@worker_process_init.connect()
def init_worker_process(**kwargs):

    // Load all Keras related imports here
    import ...


@CELERY.task()
def long_running_task(*args, **kwargs):

    // Actual calculation task
    ...