线性回归为什么是平方损失函数?

如题所述

假设数据满足高斯分布的情况下
将y = wx+b 中的y和期望带入高斯分布函数,取对数化简后为 常数-(平方损失函数/方差),是近似平方损失的函数且方差随数据变化是个定值。
固定X使得W为参数时的似然估计最优解得到的概率,等同于真实W下的概率。
所以最大化似然函数值转换为最小化平方损失函数。
所以线性回归实质是寻找一组最贴切的权值,也就是最大化似然函数值。平方损失函数,是最大化函数值的一个简便的式子。
至于这个式子在非线性情况下是否成立我就不知道了。以上在Andrew Ng的课程中有教,我也是刚学如有错误请指证。
温馨提示:答案为网友推荐,仅供参考
相似回答