标签: load-balancing

首先让我说我不是系统管理员，我是程序员。

最近，我们的系统管理员安装了 F5 负载均衡器。从那时起，我注意到任何时候请求超时并最终抛出 500，负载均衡器都会向我们的另一台服务器发送相同的请求。即使脚本实际上仍在运行，IIS 也会发送超时响应。如果脚本运行超过 5 分钟，即使 POST 请求也会重复。这对我来说似乎是一个潜在的问题，尤其是对于涉及客户计费的电子商务网站。

这只是我们一些运行时间较长的脚本的问题（但这是一个严重的问题）。我被告知这是预期的行为，我们必须更改我们的代码以符合要求。所以我的问题是：

• 这是预期的行为吗？
• 除了用户不必刷新之外，负载均衡器在超时后复制请求的优势是什么？
• 使用这种架构，如果运行一个使服务器陷入困境或占用资源的脚本，它将最终在两台服务器上运行。这真的是最优的吗？

HAProxy 似乎并没有保持与服务器的连接平衡。

请记住这一点：

• 使用 HAProxy v1.3.26
• 5 个均衡的服务器规格
• 算法是循环的，但没有对每个服务器应用权重
• 在 haproxy 中设置的全局最大连接数为 80,000

如图所示，服务器 C 和 D 的连接似乎比其他服务器多。由于这种额外的负载，它们会继续下降并自动重新启动。

我尝试阅读 HAproxy 官方文档并进行了一些谷歌搜索，但没有发现任何有用的信息。希望这里有人可以提供帮助。

几个问题：

1. 为什么当配置说使用 roundrobin、服务器规格相同并且没有应用权重时会出现这种情况？

2. 什么决定了“会话”列中的“最大”子列（表示 1970、1444 等的那个）。服务器 C、D、E 在 3K 范围内，其他 2 个在 2K 以下。为什么会有差异？

3. 如何让这一切保持平衡？

4. 有人可以解释每一列吗？我很惊讶 HAproxy 的官方文档并没有真正解释它。

我计划添加更多 Web 应用程序服务器以支持不断增加的客户端，部署 HAproxy 和 Keepalived 以实现负载平衡和高可用性。

我的服务器使用具有以下特点：

1. 作业不是 CPU 密集型的。消息是少于 100 个字符的 JSON 文本。
2. 用户将通过客户端设备 Y 向服务器发送消息。通常每天 4-5 条消息
3. 客户端设备 X 一直在等待来自服务器的消息。如果消息在服务器上可用，客户端设备 X 必须能够在 2 秒内得到它。否则，此消息已过时。

为此原因，

1. 客户端设备 X 正在使用长轮询 HTTP 连接以进行响应。每个连接将持续 5 秒并重新连接。
2. 客户端设备 X 和客户端设备 Y 连接到同一服务器，因此 X 和 Y 可以轻松发送消息

题

如果有超过 60,000 个客户端设备 X 连接到服务器，我的负载平衡器或路由器将耗尽 TCP 端口。例如，扩展 20,000 个用户的最佳方法是什么？

我的服务器在 Ubuntu 服务器上运行，使用 tomcat 和 Java Servlet。

我对 Amazon Web Services 比较陌生，我正在尝试了解 Elastic Load Balancing 如何在我的 wordpress 设置上下文中工作。此外，我想就拟议的基础设施提供一些建议。

我最初提议的基础设施如下：

• 1x EC2 m1.small - Ubuntu 12.04.3 LTS 64 位（带有 1 个 EBS 卷）
• 1x EC2 t1.micro - Ubuntu 12.04.3 LTD 64 位（有或没有 EBS 卷？）
• 1 个微型 RDS 实例 - MySQL 5.6.13

EC2 我当前的 EC2 (t1.micro) 正在运行 LAMP 堆栈并配置为运行 wordpress。

我想用 m1.small 实例来负载平衡，运行 t1.micro 实例的克隆。

我目前的未知数如下：

• 负载平衡设置将如何管理跨实例在 wordpress CMS 上所做的更改？每次在 wordpress 中进行更改时，我是否都必须不断更新 AMI？
• 我的网站是一个电子商务网站。这在负载平衡设置中是否有任何影响？即，订单是否有可能存在于一个实例而不是另一个实例上？

这可能是一个非常愚蠢的问题，但我认为有些问题不会相关，因为基础设施正在引用一个数据库。

最后，有没有更好的方法来设置负载平衡的基础设施？即我是否应该考虑使用 Amazon S3 来存储我的所有文件并使用 Cloudfront 作为 CDN 以确保高效运行并解决任何 EBS 文件复制问题。

非常感谢任何帮助。

劳埃德

抱歉，如果之前有人问过这个问题，但我似乎找不到太多关于它的信息。

我们将使用 HAProxy 来平衡我们的 MariaDB Galera 集群。我在这方面看到的所有文章/教程都使用 Keepalived（或类似的东西）进行主动/被动 HAProxy 设置。

有什么好的理由为什么你不应该有一个主动/主动设置？

每个 HAProxy 节点都可以有一个固定的 IP，并且都有一个浮动的 IP。在正常情况下，请求在两个 HAProxy 节点之间共享，如果一个节点宕机，另一个将使用它的浮动 IP 并处理两个 IP 下的请求。当另一个恢复时，它会再次获取其浮动 IP 和负载份额。

我很感激你对此的意见。

卢克

在CentOS 6.5上运行 nginx 1.0.15。我有三台上游服务器并且一切正常，但是当我模拟中断并关闭其中一台上游服务器时，我注意到响应时间有相当大的延迟（额外的 5-7 秒）。当我将宕机的服务器重新联机时，延迟就消失了。另外，我注意到的另一个奇怪的事情是，如果我只是在模拟中断服务器上停止 httpd 服务，响应时间是正常的，只有在服务器完全关闭时才会出现延迟。

upstream prod_example_com {

    server app-a-1:51000;

    server app-a-2:51000;

    server app-a-3:51000;

}


server {

    # link:  http://wiki.nginx.org/MailCoreModule#server_name
    server_name example.com www.example.com *.example.com;

    #-----
    # Upstream logic
    #-----


    set $upstream_type prod_example_com;


    #-----

    include include.d/common.conf;

    # Configure logging
    access_log  /var/log/nginx/example/access/access.log access;
    error_log   /var/log/nginx/example/error.log error;

    location / {

        # link: http://wiki.nginx.org/HttpProxyModule#proxy_pass
        proxy_pass  http://$upstream_type$request_uri;

        # link: http://wiki.nginx.org/HttpProxyModule#proxy_set_header
        proxy_set_header    Host    $host;
        proxy_set_header    X-Real-IP   $remote_addr;
        proxy_set_header    X-Forwarded-For     $proxy_add_x_forwarded_for;
    }

    location ~* \.(js|css|png|jpg|jpeg|gif|ico)$ {

        # link: http://wiki.nginx.org/HttpProxyModule#proxy_pass
        proxy_pass …