如何为Loadbalancing准备好代码

Question

正如我们过去这样做,我想收集有用的信息给大家移动到负载平衡,因为是你的代码必须意识到的问题.

我们从一个apache服务器转移到squid作为反向代理/负载均衡器,后面有三个apache服务器.

我们使用的是PHP/MySQL,因此问题可能会有所不同.

我们必须解决的问题:

会议

我们从"默认"php会话(文件)转移到分布式memcached会话.简单的解决方案,必须要做.这样,您的负载均衡器上也不需要"粘性会话".

高速缓存

对于每个web服务器的非分布式apc-cache,我们为分布式对象缓存添加了anoter memcached-layer,并用它替换了所有旧的/过时的文件缓存系统.

上传

上传转到共享(nfs)文件夹.

我们为速度优化的事情:

静态文件

我们的主NFS运行lighttpd,提供(也是用户上传的)图像.Squid意识到这一点,并且永远不会在我们的apache-nodes中查询图像,从而提供了良好的性能提升.Squid还配置为在ram中缓存这些文件.

你做了什么来让你的代码/项目为负载平衡做好准备,让人们考虑这一举措的任何其他问题,以及你使用的是哪种平台/语言？

Answer 1

执行此操作时：

对于 http 节点，我大力推动单个系统映像（ocfs2 对此很有用），并根据情况使用 pound 或 crossroads 作为负载均衡器。节点应该有一个小的本地磁盘用于交换，以避免大多数（但不是全部）CDSL 的麻烦。

然后我将 Xen 纳入其中。如果您在 Xenbus 上放置少量临时信息（即 Linux 实际上承诺为每个 VM 进程提供多少虚拟内存，又名 Commited_AS），您可以快速检测到脑死亡负载平衡器并对其进行调整。Oracle 也意识到了这一点......并且现在正在努力改进 Linux 中的气球驱动程序。

之后，我查看了跨 sqlite3 和应用程序本身想要的任何数据库拆分任何给定应用程序的数据库使用的成本，同时意识到我需要拆分数据库，以便 posix_fadvise() 可以完成其工作，而不是不必要地污染内核缓冲区。由于大多数 DBMS 服务想要进行自己的缓冲，因此您还必须让它们进行自己的集群。这确实决定了我使用的数据库集群的类型以及我对气球驱动程序所做的操作。

然后，Memcache 服务器从精简的 initrd 启动，同时特权域监视其内存和 CPU 使用情况，以便知道何时启动更多内存。

心跳/接管的选择实际上取决于给定的网络和集群的预期使用情况。很难一概而论。

最终结果通常是 5 或 6 个物理节点，具有相当多的内存，在连接到镜像存储时启动虚拟机监视器 + 来宾。

存储也很难用一般术语来描述。有时我使用集群 LVM，有时不使用。当 LVM2 最终放弃当前基于字符串的 API 时，这一点不会改变。

最后，所有这些协调都会导致Augeas等基于通过 Xenbus 通信的事件动态更新配置。这包括 ocfs2 本身，或配置不能驻留在单个系统映像上的任何其他服务。

这确实是一个特定于应用程序的问题..您能举个例子吗？例如，我喜欢内存缓存，但并不是每个人都能从使用它中受益。我们是在审查您的配置还是在讨论一般最佳实践？

编辑：

抱歉如此以 Linux 为中心……我在设计集群时通常使用它。