为什么gunicorn 工作人员的工作分配不均匀？

Question

我正在运行我的大型、面向公众的 Web 应用程序。它是一个 python HTTP 后端服务器，每分钟响应数千个 HTTP 请求。它是用 Flask 和 SQLAlchemy 编写的。该应用程序在 AWS 的 EC2 上运行。实例类型为c3.2xlarge（具有 8 个 CPU）。

我使用 Gunicorn 作为我的网络服务器。Gunicorn 有 17 个工作进程和 1 个主进程。下面你可以看到 17 个 Gunicorn 工人：

$ sudo ps -aefF | grep gunicorn | grep worker | wc -l
17

$ sudo ps -aefF --sort -rss | grep gunicorn | grep worker
UID       PID  PPID  C      SZ     RSS PSR STIME TTY     TIME                           CMD
my-user 15708 26468  6 1000306 3648504   1 Oct06   ? 08:46:19 gunicorn: worker [my-service]
my-user 23004 26468  1  320150  927524   0 Oct07   ? 02:07:55 gunicorn: worker [my-service]
my-user 26564 26468  0  273339  740200   3 Oct04   ? 01:43:20 gunicorn: worker [my-service]
my-user 26562 26468  0  135113  260468   4 Oct04   ? 00:29:40 gunicorn: worker [my-service]
my-user 26558 26468  0  109946  159696   7 Oct04   ? 00:15:14 gunicorn: worker [my-service]
my-user 26556 26468  0  125294  148180   6 Oct04   ? 00:13:07 gunicorn: worker [my-service]
my-user 26554 26468  0  120434  128016   5 Oct04   ? 00:10:13 gunicorn: worker [my-service]
my-user 26552 26468  0   99233  116832   5 Oct04   ? 00:08:24 gunicorn: worker [my-service]
my-user 26550 26468  0   94334   96784   0 Oct04   ? 00:05:28 gunicorn: worker [my-service]
my-user 26548 26468  0   92865   90512   2 Oct04   ? 00:04:47 gunicorn: worker [my-service]
my-user 27887 26468  1   91945   86564   0 17:44   ? 00:02:57 gunicorn: worker [my-service]
my-user 26546 26468  0  127841   84464   5 Oct04   ? 00:03:39 gunicorn: worker [my-service]
my-user 26544 26468  0   90290   80736   2 Oct04   ? 00:03:12 gunicorn: worker [my-service]
my-user 26540 26468  0  107669   78176   5 Oct04   ? 00:02:33 gunicorn: worker [my-service]
my-user 26542 26468  0   89446   76616   5 Oct04   ? 00:02:49 gunicorn: worker [my-service]
my-user 26538 26468  0   88056   72028   5 Oct04   ? 00:02:02 gunicorn: worker [my-service]
my-user 26510 26468  0  106046   70836   2 Oct04   ? 00:01:49 gunicorn: worker [my-service]

我正在检查过去 7 天内收到的所有 HTTP 请求的日志。我已按进程 ID 对请求进行了分组和求和，您可以在ps上面的命令中看到该 ID。您可以在下面看到结果图。

正如你所看到的，5 个 Gunicorn 工作人员几乎完成了 100% 的工作。剩下的12个基本闲置。在这 5 名工人中，一名工人（PID #15708）目前所做的工作最多。

为什么会发生这种情况？我想了解 Gunicorn 用于在其工作人员之间分配工作的算法。这绝对不是循环赛？我在哪里可以看到它使用的策略以及如何调整它？什么可以解释该图表中的上升和下降？（例如，直到 10 月 7 日，PID #332 的工作量才开始下降，并被不断上升的 PID #15708 所取代）

清晰的解释和/或相关文档的链接将会有所帮助。

Answer 1

根据文档：

默认同步工作线程假定您的应用程序在 CPU 和网络带宽方面受到资源限制。

和：

Gunicorn 依赖操作系统在处理请求时提供所有负载平衡。

基于这两个陈述，我想说，完成大部分工作的单个工人几乎不会受到资源限制。一旦资源受限，其他四个工作人员就足以处理额外的负载，而无需调用其他工作人员。

您也许可以安全地减少工人数量（(2 x num cores) + 1这只是起始建议）。这将减少资源混乱的可能性，并可以提高应用程序的性能。