龙卷风发电机在列表中的任何未来恢复

neh*_*ehz 3 python asynchronous tornado python-asyncio

龙卷风(或 asyncio)中是否有一种行为/模式等待 a 中的任何而不是所有 Futures list

yield any_of([future1, future2, future3])
Run Code Online (Sandbox Code Playgroud)

future2准备好了那么结果应该是:

[None, <result>, None]
Run Code Online (Sandbox Code Playgroud)

A. *_*vis 5

更新: Tornado 现在有tornado.gen.WaitIterator,根据其文档中的示例使用它,而不是我下面的想法。

您可以创建一个继承自 Future 的 Any 类,并包装一个期货列表。Any 类一直等到它的期货之一解析,然后为您提供结果列表:

import time
from tornado import gen
from tornado.ioloop import IOLoop
from tornado.concurrent import Future


@gen.coroutine
def delayed_msg(seconds, msg):
    yield gen.Task(IOLoop.current().add_timeout,
                   time.time() + seconds)
    raise gen.Return(msg)


class Any(Future):
    def __init__(self, futures):
        super(Any, self).__init__()
        self.futures = futures
        for future in futures:
            future.add_done_callback(self.done_callback)

    def done_callback(self, future):
        try:
            self.set_result(self.make_result())
        except Exception as e:
            self.set_exception(e)

    def make_result(self):
        """A list of results: None for each pending future, a result for
        each resolved future. Raises an exception for the first future
        that has an exception.
        """
        return [f.result() if f.done() else None
                for f in self.futures]

    def clear(self):
        """Break reference cycle with any pending futures."""
        self.futures = None


@gen.coroutine
def f():
    start = time.time()
    future1 = delayed_msg(2, '2')
    future2 = delayed_msg(3, '3')
    future3 = delayed_msg(1, '1')
    results = yield Any([future1, future2, future3])
    end = time.time()
    print "finished in %.1f sec: %r" % (end - start, results)

    results = yield Any([future1, future2])
    end = time.time()
    print "finished in %.1f sec: %r" % (end - start, results)

IOLoop.current().run_sync(f)
Run Code Online (Sandbox Code Playgroud)

正如预期的那样,这会打印:

finished in 1.0 sec: [None, None, '1']
finished in 2.0 sec: ['2', None]
Run Code Online (Sandbox Code Playgroud)

但是您可以看到这种方法存在一些复杂性。一方面,如果您想在第一个期货结算后等待其余期货,则构建仍在等待的期货列表是很复杂的。我想你可以这样做:

results = yield Any(f for f in [future1, future2, future3] if not f.done())
Run Code Online (Sandbox Code Playgroud)

不漂亮,甚至不正确!存在竞争条件。如果连续执行之间解决了未来yield Any(...),那么您将永远不会收到其结果。第一个yield没有得到未来的结果,因为它仍在等待中,但第二个yield也没有得到它的结果,因为到那时未来已经“完成”并且它没有包含在传递给Any.

另一个复杂之处是 Any 指的是每个未来,它指的是回调,回调又指回 Any。对于及时垃圾回收,您应该调用 Any.clear()。

此外,您无法区分未决未来和解析为 None 的未来。您需要一个不同于 None 的特殊标记值来表示未决的未来。

最后的并发症是最糟糕的。如果解决了多个期货并且其中一些有例外,则 Any 没有明显的方式将所有这些信息传达给您。在列表中混合异常和结果是不正常的。

我认为有一个更简单的方法。我们可以让 Any 只返回第一个解决的未来,而不是结果列表:

class Any(Future):
    def __init__(self, futures):
        super(Any, self).__init__()
        for future in futures:
            future.add_done_callback(self.done_callback)

    def done_callback(self, future):
        self.set_result(future)
Run Code Online (Sandbox Code Playgroud)

引用循环消失了,异常处理问题得到了回答:Any 类将整个未来返回给你,而不是它的结果或异常。你可以随意检查它。在解决一些问题后等待剩余的期货也很容易:

@gen.coroutine
def f():
    start = time.time()
    future1 = delayed_msg(2, '2')
    future2 = delayed_msg(3, '3')
    future3 = delayed_msg(1, '1')

    futures = set([future1, future2, future3])
    while futures:
        resolved = yield Any(futures)
        end = time.time()
        print "finished in %.1f sec: %r" % (end - start, resolved.result())
        futures.remove(resolved)
Run Code Online (Sandbox Code Playgroud)

根据需要,这会打印:

finished in 1.0 sec: '1'
finished in 2.0 sec: '2'
finished in 3.0 sec: '3'
Run Code Online (Sandbox Code Playgroud)

我们可以通过添加一个新的全局函数来测试异常处理行为:

@gen.coroutine
def delayed_exc(seconds, msg):
    yield gen.Task(IOLoop.current().add_timeout,
                   time.time() + seconds)
    raise Exception(msg)
Run Code Online (Sandbox Code Playgroud)

并产生它而不是delayed_msg:

@gen.coroutine
def f():
    start = time.time()
    future1 = delayed_msg(2, '2')
    future2 = delayed_exc(3, '3')  # Exception!
    future3 = delayed_msg(1, '1')

    futures = set([future1, future2, future3])
    while futures:
        resolved = yield Any(futures)
        end = time.time()
        try:
            outcome = resolved.result()
        except Exception as e:
            outcome = e

        print "finished in %.1f sec: %r" % (end - start, outcome)
        futures.remove(resolved)
Run Code Online (Sandbox Code Playgroud)

现在,脚本将打印“1”,然后是“2”,然后是“Exception('3',)”。