基于模型的优化(以mlrMBO为单位)需要多少次迭代？

Question

我想在R(mlrMBO)的mlr-Package中使用基于模型的优化来调整我的超参数.这里推荐多少次迭代？我已经读过MBO中必要的迭代次数取决于超参数的数量,应该乘以某个因子？

Answer 1

不幸的是，对此没有通用的答案。除了超参数的数量之外，任务的难度和总体优化环境也会影响可能需要的迭代次数。此外，这取决于您正在寻找什么级别的性能 - 如果您绝对需要最佳性能，则可能需要大量迭代（数千次或更多）。

一个好的经验法则是根据可用资源确定迭代次数。您需要在几分钟内得到答案还是可以让其运行过夜？我会从一个只有几次迭代的小型测试运行开始，以了解在您的特定情况下需要多长时间，然后根据该情况以及您想要花费的时间设置实际运行的迭代次数。

使用不同的随机种子和相同的迭代次数以及相同的随机种子和不同的迭代次数进行多次运行也是一个好主意。这将告诉您通过运行更长时间可以获得多少性能提升，例如，如果 100 次和 1000 次迭代没有差异，那么给予更多可能不值得。