在训练神经网络的整个过程中，数据集的验证误差是否会高于测试误差？

Question

我正在使用 pylearn2 库训练卷积神经网络，并且在所有 ephoc 期间，我的验证错误始终高于测试错误。是否可以？如果是这样，在什么样的情况下？

Answer 1

^{将评论移至答案；修改我以前的答案似乎是错误的}

完整数据集可能未正确打乱，因此测试集中的示例可能更容易分类。

使用在训练/有效/测试子集之间重新分配的示例再次进行实验将显示是否是这种情况。