使用nginx进行负载均衡

Question

如果这些服务器上的负载超过某个级别,我想停止向后端服务器提供请求.已经在网站上冲浪的任何人仍然会被路由,但新连接将被发送到静态服务器忙页面,直到负载降至预定水平以下.

我可以使用cookie来让当前客户进入,但我找不到有关如何根据自定义负载指标进行路由的信息.

谁能指出我正确的方向？

Answer 1

Nginx有一个用于负载平衡的HTTP上游模块.使用max_fails和fail_timeout选项检查后端服务器的响应能力.使用该backup选项可以在没有后端可用时路由到备用页面.我建议将负载指标转换为Nginx提供的选项.

让我们说,当负载高于你想要的时候,Nginx仍然认为后端是"向上".您可以通过调整后端服务器的最大连接数来进一步调整.因此,后端服务器可能只能在负载过高之前处理5个连接,因此您只需调整5个连接.然后在前端,Nginx会在尝试发送第六个连接时立即超时,并将该服务器标记为无效.