比较贝叶斯线性回归VS线性回归

Question

最近我学习了贝叶斯线性回归模型,但我感到困惑的是在哪种情况下我们应该使用线性回归,何时使用贝叶斯版本.这两个表现怎么样？并且贝叶斯逻辑回归和逻辑回归是一样的吗？我读了一篇关于使用贝叶斯概率回归来预测广告点击率的论文,我只是想知道为什么要使用贝叶斯版本？

Answer 1

在两种情况下,线性回归和逻辑回归,贝叶斯版本使用贝叶斯推理的上下文中的统计分析,例如贝叶斯线性回归.

每个维基百科,

这种(普通线性回归)是一种常见的方法,它假设有足够的测量来说出有意义的东西.在贝叶斯方法中,数据以先验概率分布的形式补充有附加信息.根据贝叶斯定理,将关于参数的先验信念与数据的似然函数相结合,以产生关于参数的后验信念.

贝叶斯分析的常用方法(添加贝叶斯味道):

1. 找出数据的似然函数.
2. 选择所有未知参数的先前分布.
3. 使用贝叶斯定理来找出所有参数的后验分布.

为什么选择贝叶斯版？^[1]

• 贝叶斯模型更灵活,处理更复杂的模型.
• 贝叶斯模型选择可能更优越(BIC/AIC).
• 贝叶斯分层模型更容易扩展到许多层次.
• 哲学差异(与频率分析相比).
• 贝叶斯分析在小样本中更准确(但可能取决于先验).
• 贝叶斯模型可以包含先验信息

这里有一些关于贝叶斯分析的好的演讲幻灯片.