> 如果损失函数是正态分布函数，MLE与LSE是等价的，也就是估计的结果是相同的。 > 本课学习时长评估：2小时。 ## LSE定义 英文全称：Least squares estimate，又叫最小平方法。 对于最小二乘估计来说，最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是**估计值与观测值之差的平方和**最小。。 ## LSE使用场景 * 利用最小二乘法可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。 * 最小二乘法还可用于曲线拟合。 * 其他一些优化问题也可通过最小化能量或最大化熵用最小二乘法来表达。 ## LSE存在的问题 ## MLE的求解过程 [视频链接](https://www.bilibili.com/video/BV1mx411b7Pg) [视频链接](https://www.bilibili.com/video/BV1Dx411b7mW) * 损失函数 * 求导 * 令导数为0，求超参数 ## MLE VS MLS * 最小二乘：线性代数的视角 * 最大似然：统计估计的角度 [最大似然估计与最小二乘估计的区别](https://www.cnblogs.com/little-YTMM/p/5700226.html) [最大似然估计和最小二乘估计的区别与联系](https://blog.csdn.net/xidianzhimeng/article/details/20847289)