服务器利用率以及如何处理数据中心故障

Question

Docker、Mesos、Kubernetes 等新技术可以在组织中更好地利用服务器。但是，考虑到整个数据中心的故障，我想知道如何最大限度地提高两个数据中心的利用率。

鉴于这种情况：

两个数据中心（DC-A 和 DC-B）具有等量的计算资源。两个数据中心都以负载平衡/循环方式运行和处理请求。两个数据中心的服务器利用率均为 80%。

假设 DC-B 出现故障（物理或网络）并且无法访问。DC-A 将无法再增加 80% 的利用率，因为它本身已经达到了 80%。使组织处于 DC-A 可能无法处理额外需求并导致中断的状态……

这是否意味着两个数据中心（DC-A 和 DC-B）的组织每个数据中心的最大利用率只能达到 50%？即任何一个 DC 失败，另一个 DC 将能够弥补另一个 DC 的松弛（50% + 50%）。

这种想法正确吗？其他人如何处理这个问题或者我错过了什么？

Answer 1

对于需要始终可用的服务，您需要 N+1 冗余，其中 N 是处理负载所需的数据中心或服务器（或在建议的故障场景中丢失的任何其他内容）的数量。这会变得更便宜，你得到的更大 - 在低端有两个数据中心，每个数据中心都需要能够处理整个工作负载。但如果你有 10 个，他们可以完成 9 个的工作，但仍然是多余的。

另一种选择是减载，尽管该短语更常用于电力系统。基本上，在故障情况下关闭所有非必要服务，以便剩余系统有足够的资源。