CMA-ES 是 (mu, lambda) 还是 (mu + lambda)？

Question

我知道协方差矩阵适应进化策略所需的基本组件，但我似乎找不到任何明确说明所选子代（lambda）是否替换父种群（mu）或添加到其中的地方。

我知道这种区别在进化计算中产生了巨大的差异，即您的种群是否停留在局部最优解并收敛，或者它是否能够脱离局部最优解并找到全局最优解。非常感谢解决这个困境的任何帮助。

Answer 1

CMA-ES 中的种群实际上是使用 (mu / mu_w, lambda) 构建的。此符号来自CMA-ES 教程，其中详细介绍了算法：

(mu / mu_w, lambda)-ES，与父母的进化策略，所有父母（中间或加权）和后代的重组。

在经典的进化策略中，mu 个体被变异以产生 lambda 新解决方案。该算法然后将这些 lambda 解添加到第一个 mu (mu+lambda) 或仅保留 lambda 解 (mu, lambda)。

CMA-ES 首先从高斯分布中采样 lambda 解。然后它通过计算 mu 最适合采样解的平均值来计算搜索分布的新平均值。最后，该算法使用专门的机制更新分布的协方差矩阵，这里不会介绍这些机制，但也会使用 mu 最适合的采样解决方案。