> Logistic Regression,在线性回归的基础上,增加Sigmoid函数,解决**分类**问题。
> 本课学习时长评估:2小时。
## 逻辑回归定义
逻辑回归是一个分类模型,其思想是基于线性回归,属于广义线性回归模型。
## 逻辑回归公式
* 预测函数
`$ h_\theta(x) = \frac{1}{1 + e^{-z}} = \frac{1}{1 + e^{-\theta^Tx}} $`
`$ z = \theta_0 + \theta_1x_1 + \theta_2x_2... + \theta_nx_n = \theta^Tx $`
* Sigmoid函数
`$ y= \frac{1}{1 + e^{-z}} $`
逻辑回归算法,是将线性函数的结果映射到了sigmoid函数中,然后对sigmoid作为预测函数,求出成本函数,然后最小化成本,得出w,b超参数。
* 损失函数
LR的损失函数为: 负的对数损失函数。
逻辑回归**假设样本服从伯努利分布(0-1分布)**,然后求得满足该分布的似然函数,接着取对数求极值最小化负的似然函数
## 逻辑回归的求解过程
[白话简介视频链接](https://www.bilibili.com/video/BV1Cx411d7MU)
[公式推导视频链接](https://www.bilibili.com/video/BV1As411j7zw)