神经网络的批量大小是多少？

Question

我有一个包含 36 个数据点的训练集。我想在上面训练一个神经网络。我可以选择批量大小，例如 1 或 12 或 36（每个可以被 36 整除的数字）。

当然，当我增加批量大小时，训练运行时间会大大减少。

如果我选择例如 12 而不是 1 作为批量大小，会有缺点吗？

Answer 1

批量大小没有黄金法则。时期。

然而。你的数据集非常小，可能批量大小根本不重要，你所有的问题都将来自于缺乏数据，而不是任何超参数。