生词
- contour plot: 等高线
- slope: 斜率
- convergence: 收敛
- derivative: 导数
- tangential line: 切线
- gradient descent: 梯度下降
机器学习的定义
一门让计算机在不用显式编程的情况下就可以拥有学习能力的研究领域 -- Arthur Samuel
机器学习的两大类
- 有监督的学习(Supervised Learning): 给定的dataset里面有target值。
- 无监督学习(Unsupervised Learning): 给定的dataset里面没有target值，要靠自己自己去发现数据里面的结构(structure of the data)。
有监督的学习
有监督的学习又被分成两大类:
- 回归(Regression): 根据给定的feature值，预测出一个连续的值(continuous value)。
- 分类(Classification): 根据给定的feature值，预测出一个不连续的值(discrete value)。
有监督的学习用在我们对要预测的值有一定的了解的情况下。
无监督的学习
无监督的学习用在我们要预测的值没有什么了解，要靠机器自己去发现
模型的表示法
以最简单的线性回归(Liner Regression)为例, 它的模型是下面的这个公式:
h(x) = θ0 + θ1x
而要衡量一个模型的好坏好用到cost function, 比如衡量线性回归比较有用的Squared error function, 它的原理就是计算给定训练集里面的值与模型直接直线之间的距离。
而为了能够得到一个好的模型，我们就要让cost function的值尽量的小。这就引出了另一个算法: 梯度下降(Gradient Descent), 这是一种寻找cost function最小值的算法。
