逻辑回归

逻辑回归学习图

因为名字里面有个“回归”,那就先说下回归的类别:

广义线性模型家族里,依据因变量不同,可以有如下划分:
(1)如果是连续的,就是多重线性回归。
(2)如果是二项分布,就是逻辑回归。
(3)如果是泊松(Poisson)分布,就是泊松回归。
(4)如果是负二项分布,就是负二项回归。
(5)逻辑回归的因变量可以是二分类的,也可以是多分类的,但是二分类的更为常用,也更加容易解释。所以实际中最常用的就是二分类的逻辑回归。


线性回归和逻辑回归的区别

线性回归vs逻辑回归

下面具体解释一下:

  • 拟合函数和预测函数什么关系呢?简单来说就是将拟合函数做了一个逻辑函数的转换,Sigmod函数将𝑦∈(−∞,+∞),转换后使得𝑦(𝑖)∈(0,1);
  • 最小二乘和最大似然估计可以相互替代吗?回答当然是不行了。我们来看看两者依仗的原理:最大似然估计是计算使得数据出现的可能性最大的参数,依仗的自然是Probability。而最小二乘是计算误差损失(平方差)。

(内容基于网络参考后梳理,用于个人学习,如有侵权,请留言)