神经网络对输出数据进行归一化

PRC*_*ube 2 machine-learning normalization perceptron neural-network

我有关于NN的训练数据以及预期的输出。每个输入都是10维向量,并具有1个预期输出。我已经使用高斯对训练数据进行了归一化,但是由于它只有一维,所以我不知道如何对输出进行归一化。有任何想法吗?

例:

原始输入向量: -128.91,71.076,-100.75,4.2475,-98.811,77.219,4.4096,-15.382,-6.1477,-361.18

归一化输入向量: -0.6049、1.0412,-0.3731、0.4912,-0.3571、1.0918、0.4925、0.3296、0.4056,-2.5168

上述输入的原始预期输出为1183.6,但我不知道如何将其标准化。我是否应该将预期输出标准化为输入向量的一部分?

ray*_*ica 6

从问题的外观来看,您正在尝试实现某种回归算法。对于回归问题,通常不对输出进行标准化。对于您为回归系统提供的训练数据,预期输出应在预期范围内,或者仅是预期输出具有的任何数据。

因此,您可以标准化训练输入以使训练更快,但是通常不会标准化目标输出。在测试时间或提供新输入时,请确保以与培训期间相同的方式对数据进行标准化。具体来说,在训练过程中使用完全相同的参数进行归一化,以训练对网络的任何测试输入。

  • @basilisk如果你有多个输出想要回归,那么标准化可以提供帮助。这取决于每个维度的范围。请参阅:https://datascience.stackexchange.com/questions/24214/why-should-i-normalize-also-the-output-data。对于单维输出,您通常不会这样做,但对于多维数据,它可以依赖。我给你的建议是两者都尝试一下,看看哪个效果更好。 (2认同)