玩！框架：限制通过 WS 进行的并发非阻塞 IO 调用

Question

我一直在使用Play!Framework的WS来进行网络调用。假设我在范围内的自定义 ExecutionContext 中有 5 个线程。如果我要推送阻塞网络调用，最多可以处理 5 个并行请求，因此我可以明确地限制一次完成的网络调用数量。

使用 WS 时，情况并非如此。它将进行超过 5 个线程的网络调用，因为它不会在发出 WS 请求的自定义池中阻塞。我观察到的是，我可以发出任意数量的请求，并最终淹没操作系统资源。示例代码可以在下面找到。嵌套调用总共进行 100 * 100 = 10000 次调用。我的问题是，有没有办法限制 WS（非阻塞 IO）可以并行发生多少个调用？我能想到的唯一方法是在请求到达服务器之前进行负载平衡。谢谢！

val cols = (1 to 100).map { col =>
  ws.url(s"http://get-resource/${col}").get().flatMap { futureColResp =>
    val outerCol = futureColResp.json

   val rowFutures = (1 to 100).map { row =>
      ws.url(s"http://get-resource/${row}").get().map { futureRowResp =>
        val innerRow = futureRowResp.json
        doSomething(outerCol, innerRow)
      }
   }
    Future.sequence(rowFutures)
  }
}
Future.sequence(cols)

Answer 1

在 play 的配置中，您可以进行以下设置：play.ws.ahc.maxConnectionsTotal

此处描述： https: //www.playframework.com/documentation/2.5.x/ScalaWS#configuring-asynchttpclientconfig

一旦并发传出连接数超过定义值，Play应用程序将不会创建到目标的新连接并抛出以下异常：play.shaded.ahc.org.asynchttpclient.exception.TooManyConnectionsException: Too many connections: 5

在这种情况下，更好的行为可能是减少并行性以避免资源耗尽，或者如果可能的话减少对同一服务器的请求数量（可以批量处理吗？）。