内存泄漏使用龙卷风的gen.engine

Question

我的代码以简化形式显示如下:

from tornado import gen, httpclient, ioloop

io_loop = ioloop.IOLoop.instance()
client = httpclient.AsyncHTTPClient(io_loop=io_loop)

@gen.engine
def go_for_it():
    while True:
        r = yield gen.Task(fetch)

@gen.engine
def fetch(callback):
    response = yield gen.Task(client.fetch, 'http://localhost:8888/')
    callback(response)

io_loop.add_callback(go_for_it)
io_loop.start()

当我运行它时,内存占用量或多或少地线性增加.但是,如果我删除了gen.engine嵌套:

@gen.engine
def go_for_it():
    while True:
        r = yield gen.Task(client.fetch, 'http://localhost:8888/')

内存使用量保持不变.

我已经设法在Mac OS X和Linux上重现不同版本的龙卷风2的问题.任何想法可能是这个问题的原因？

Answer 1

在 objgraph 包的帮助下深入研究，看起来代码泄漏了 ExceptionStackContexts。这些是由 gen.engine 创建来处理函数异常的，它们应该被清除，但显然你发现了一个错误。

我最好的猜测是，在某处留下了对一的引用。

编辑 - Tornado 团队（Ben）已找到修复程序，并将在未来版本中发布。 https://github.com/facebook/tornado/commit/bff07405549a6eb173a4cfc9bbc3fc7c6da5cdd7