处理 1000 个 Flask/Gunicorn Web 服务的并发请求

Question

我对在 Python 中创建 Web 服务相当陌生。我已经成功创建了一个 Flask Web 服务并使用 Gunicorn 运行它（因为 Flask 的内置服务器不适合生产）。这就是我运行我的应用程序的方式（有 4 个工作节点）。

   gunicorn --bind 0.0.0.0:5000 My_Web_Service:app -w 4

问题是，这一次只能处理 4 个请求。我希望它能够同时处理 1000 个潜在的请求。我应该使用多线程吗？还有其他选择/建议吗？

Answer 1

阅读有关Workers的部分，您必须切换到异步工作程序，如果您的工作受 IO 限制，它可以处理数千个连接。不建议使用多于 CPU 的进程。