小编Tar*_*ain的帖子

批量大小会影响模型的准确性吗?

我使用 ResNet18 主干网和研究建议的技术训练了 Cifar100 数据集,最终得到了一些令人惊讶的结果。我进行了两次尝试,第一次尝试使用 640 批量大小,第二次尝试使用 320 批量大小。其余所有超参数保持相似。

我对 640 批量大小获得的准确度是:76.45% 我对 320 批量大小获得的准确度是:78.64%

你能告诉我为什么会发生这种情况吗?

据我所知,这只是因为协变量偏移。完成完整样本的每次迭代的分布会影响准确性。我认为,与 640 批量大小相比,320 批量大小的分布彼此相似,这导致了更高的准确性。

您能解释一下吗?解决方案是什么?

normalization neural-network deep-learning conv-neural-network

6
推荐指数
1
解决办法
4874
查看次数