neh*_*ehz 3 python asynchronous tornado python-asyncio
龙卷风(或 asyncio)中是否有一种行为/模式等待 a 中的任何而不是所有 Futures list
?
yield any_of([future1, future2, future3])
Run Code Online (Sandbox Code Playgroud)
说future2
准备好了那么结果应该是:
[None, <result>, None]
Run Code Online (Sandbox Code Playgroud)
更新: Tornado 现在有tornado.gen.WaitIterator,根据其文档中的示例使用它,而不是我下面的想法。
您可以创建一个继承自 Future 的 Any 类,并包装一个期货列表。Any 类一直等到它的期货之一解析,然后为您提供结果列表:
import time
from tornado import gen
from tornado.ioloop import IOLoop
from tornado.concurrent import Future
@gen.coroutine
def delayed_msg(seconds, msg):
yield gen.Task(IOLoop.current().add_timeout,
time.time() + seconds)
raise gen.Return(msg)
class Any(Future):
def __init__(self, futures):
super(Any, self).__init__()
self.futures = futures
for future in futures:
future.add_done_callback(self.done_callback)
def done_callback(self, future):
try:
self.set_result(self.make_result())
except Exception as e:
self.set_exception(e)
def make_result(self):
"""A list of results: None for each pending future, a result for
each resolved future. Raises an exception for the first future
that has an exception.
"""
return [f.result() if f.done() else None
for f in self.futures]
def clear(self):
"""Break reference cycle with any pending futures."""
self.futures = None
@gen.coroutine
def f():
start = time.time()
future1 = delayed_msg(2, '2')
future2 = delayed_msg(3, '3')
future3 = delayed_msg(1, '1')
results = yield Any([future1, future2, future3])
end = time.time()
print "finished in %.1f sec: %r" % (end - start, results)
results = yield Any([future1, future2])
end = time.time()
print "finished in %.1f sec: %r" % (end - start, results)
IOLoop.current().run_sync(f)
Run Code Online (Sandbox Code Playgroud)
正如预期的那样,这会打印:
finished in 1.0 sec: [None, None, '1']
finished in 2.0 sec: ['2', None]
Run Code Online (Sandbox Code Playgroud)
但是您可以看到这种方法存在一些复杂性。一方面,如果您想在第一个期货结算后等待其余期货,则构建仍在等待的期货列表是很复杂的。我想你可以这样做:
results = yield Any(f for f in [future1, future2, future3] if not f.done())
Run Code Online (Sandbox Code Playgroud)
不漂亮,甚至不正确!存在竞争条件。如果在连续执行之间解决了未来yield Any(...)
,那么您将永远不会收到其结果。第一个yield
没有得到未来的结果,因为它仍在等待中,但第二个yield
也没有得到它的结果,因为到那时未来已经“完成”并且它没有包含在传递给Any
.
另一个复杂之处是 Any 指的是每个未来,它指的是回调,回调又指回 Any。对于及时垃圾回收,您应该调用 Any.clear()。
此外,您无法区分未决未来和解析为 None 的未来。您需要一个不同于 None 的特殊标记值来表示未决的未来。
最后的并发症是最糟糕的。如果解决了多个期货并且其中一些有例外,则 Any 没有明显的方式将所有这些信息传达给您。在列表中混合异常和结果是不正常的。
我认为有一个更简单的方法。我们可以让 Any 只返回第一个解决的未来,而不是结果列表:
class Any(Future):
def __init__(self, futures):
super(Any, self).__init__()
for future in futures:
future.add_done_callback(self.done_callback)
def done_callback(self, future):
self.set_result(future)
Run Code Online (Sandbox Code Playgroud)
引用循环消失了,异常处理问题得到了回答:Any 类将整个未来返回给你,而不是它的结果或异常。你可以随意检查它。在解决一些问题后等待剩余的期货也很容易:
@gen.coroutine
def f():
start = time.time()
future1 = delayed_msg(2, '2')
future2 = delayed_msg(3, '3')
future3 = delayed_msg(1, '1')
futures = set([future1, future2, future3])
while futures:
resolved = yield Any(futures)
end = time.time()
print "finished in %.1f sec: %r" % (end - start, resolved.result())
futures.remove(resolved)
Run Code Online (Sandbox Code Playgroud)
根据需要,这会打印:
finished in 1.0 sec: '1'
finished in 2.0 sec: '2'
finished in 3.0 sec: '3'
Run Code Online (Sandbox Code Playgroud)
我们可以通过添加一个新的全局函数来测试异常处理行为:
@gen.coroutine
def delayed_exc(seconds, msg):
yield gen.Task(IOLoop.current().add_timeout,
time.time() + seconds)
raise Exception(msg)
Run Code Online (Sandbox Code Playgroud)
并产生它而不是delayed_msg:
@gen.coroutine
def f():
start = time.time()
future1 = delayed_msg(2, '2')
future2 = delayed_exc(3, '3') # Exception!
future3 = delayed_msg(1, '1')
futures = set([future1, future2, future3])
while futures:
resolved = yield Any(futures)
end = time.time()
try:
outcome = resolved.result()
except Exception as e:
outcome = e
print "finished in %.1f sec: %r" % (end - start, outcome)
futures.remove(resolved)
Run Code Online (Sandbox Code Playgroud)
现在,脚本将打印“1”,然后是“2”,然后是“Exception('3',)”。
归档时间: |
|
查看次数: |
2160 次 |
最近记录: |