我正在阅读基于能量学习的教程,我试图理解上面在SVM背景下所述的所有术语之间的区别.此链接总结了损失,成本和目标函数之间的差异.根据我的理解,
目标函数:我们想要最小化的东西.例如,||w||^2对于SVM.
损失函数:预测和标签之间的惩罚,也等同于正则化项.示例是SVM中的铰链损失函数.
成本函数:结合目标和损失函数的一般公式.
现在,第一个链接表明铰链函数max(0, m + E(W,Yi,Xi) - E(W,Y,X))即它是能量项的函数.这是否意味着SVM的能量函数是1 - y(wx + b)？能量函数是否是损失函数的一部分.损失+目标函数是成本函数的一部分吗？
对这4个术语的简明总结将极大地帮助我理解.另外,如果我的理解是错误的,请纠正我.这些术语听起来很混乱.谢谢 !