机器学习之逻辑回归(Logistic Regression)

1、逻辑回归模型

y = sigmod(w*x + b),然后再用激活函数 sigmoid = 1/1+e-z
机器算法的目的是使得模型的与真实值之间的差值越小越好,也就引入损失函数来进行计算,和线性回归一样,逻辑回归的损失函数(或者叫做误差函数)是通过最小二乘法计算的(正态分布相联系),损失函数可以用来衡量算法的运行情况


BD8F7BC6-2D7B-479D-A5D9-0D0433D482C5.png

1、loss function(单个训练样本的误差函数)
2、Cost function (整个训练样本的成本函数),成本函数用衡量w和b参数的效果

2、寻找最优解,梯度下降法

338C8236-4964-4CD0-967E-2B573F9A3440.png

下图为了方便用图来表示,先不管b的


C65E9CAE-169F-44A2-90AD-42B1BE40610D.png

通过不断的更新w的值,来找到最优解或者说接近最优解决。
w = w - a*dj(w)/dw,其中a表示学习速率,dj(w)/dw表示为曲线的斜率。

推荐阅读更多精彩内容