高流量站点如何为超过 65535 个 TCP 连接提供服务？

Question

如果一台机器可以拥有的端口数有限制，而一个套接字只能绑定到一个未使用的端口号，那么遇到大量（超过最大端口号）请求的服务器如何处理这个问题？是否只是通过使系统分布式，即在许多机器上有许多服务器来完成？

Answer 1

您误解了端口号：服务器仅侦听一个端口，并且可以有大量来自连接到该端口的客户端的打开套接字。

在 TCP 级别，元组（源 ip、源端口、目标 ip、目标端口）对于每个同时连接必须是唯一的。这意味着单个客户端不能同时打开超过 65535 个到单个服务器的连接。但是服务器可以（理论上）为每个客户端提供 65535 个同时连接。

所以在实践中，服务器只受 CPU 功率、内存等的限制，它必须为请求提供服务，而不是受到服务器的 TCP 连接数的限制。

Answer 2

你错了 - 套接字的唯一性由五个因素决定：

1. 本地 IP 地址
2. 本地端口号
3. 远程 IP 地址
4. 远程端口号
5. 传输协议 (TCP/UDP)

在提供网络服务时，1. 和 2. 通常是静态的（例如 IP 10.0.0.1、端口 80），但除非您期望来自单个客户端（或单个 NAT 网关）的数千个连接，否则您不会推送在耗尽本地资源之前，为 3. 和 4. 的可能组合设置边界。

因此，尽管实际上客户端不会使用已用于连接的端口来打开与不同目标 IP 地址的连接，但对于几乎所有应用程序而言，端口号耗尽将是最少的问题 - 无论是在服务器上还是在服务器上客户端。

问题是一个非常真实的问题，NAT 网关（路由器）为具有大量开放出站连接（例如种子）的客户端提供服务 - 在可用于 NAT 的端口池被清空后，您将看到端口号耗尽。在这种情况下，NAT 网关无法创建任何其他关联，从而有效地将客户端从 Internet 上切断。

Answer 3

问题是如何处理大（> 64k）连接数。最常用的两种方法是：

• 添加更多服务器，这会增加 src/dst 地址和端口号元组的数量。有多种方法可以跨多个服务器共享负载；DNS 轮循机制是其中之一；还有其他人

• 部署“运营商级 NAT”（在我看来，一个朋友嘲弄地正确地将其称为“crummier 级 NAT”）。这本质上是一个NAT的NAT。这对应用程序有非常不利的影响，但这是一些大型提供商在 IPv4 空间和/或端口号用完和/或他们不想迁移到 IPv6 时所做的事情。