×
广告

从零开始认知机器学习

96
沐小晨曦
2018.03.12 15:52 字数 3017

前言

当前,人工智能可谓是炒的如火如荼,各大公司高薪招AI工程师也是羡煞旁人,三百六十行,行行入AI。今天就从零开始学习关于机器学习的相关知识,不去尝试,你怎么知道它就很难呢?

本篇文章目录如下:

  1. 概述
  2. 聚类
  3. 回归
  4. 分类
  5. 小结
  6. 关于

概述

目前我们提到的机器学习更多的是让机器帮助人类做一些大规模的数据识别、分拣、规模总结等人类做起来比较花时间的事情,这个就是机器学习的本质目的。

机器学习从学习的种类来说,最常见的我们习惯分为两种,一种叫无监督学习,一种叫监督学习。

以往,我们写好程序,机器 ---- 计算机默默地执行,没有任何的“学习”行为。这里我们以监督学习为例,例如有一个分类器,可以将输入的邮件分拣为“普通邮件”和“垃圾邮件”两个类别。但是对于垃圾邮件的判断标准并不是程序运行伊始给出的,而是在给予分类器大量垃圾邮件后,由分类器对垃圾邮件样本的各种特征进行统计和归纳,进而得到的。

在这个训练过程中,给予分类器的大量的被标注为垃圾邮件的邮件,称为训练样本。分类器对垃圾邮件样本的特征进行统计和归纳的过程称为训练。总结出的判断标准,称之为分类模型。与此同时,我们还会拿其他一些“普通邮件”和“垃圾邮件”给予分类器,让它尝试根据刚刚总结好的分类模型进行分类,看看它分类的正确性是否具有泛化性,这个步骤称为验证。在此之后,我们还会使用一定量的“普通邮件”和“垃圾邮件”去测试这个模型的识别能力。这是一个基本完整的有监督学习的学习过程。

其他的有监督学习的场景也极为类似,都是基于训练样本做训练和使用验证数据集验证。

上诉所举例的有监督学习,每一个样本都有着明确的标签,最后我们只要总结出这些训练样本向量与标签的映射关系就行了。而无监督学习,是指人们在获得训练的向量数据后没有标签的情况下尝试找出其内部蕴含关系的一种挖掘工作,不需要对这些样本做任何标记甚至是过程干预。

觉得无监督学习难以理解?下面我们会举个例子,简单到爆炸。

聚类

聚类是一种典型的“无监督学习”,是把物理对象或抽象对象的集合分组为由彼此类似的对象组成的多个类的分析过程。

人类在认识客观世界的时候,看到的一花一草,不可能都一一记住,而是选择归纳归类的方式。我们看到的一辆汽车,被告知这是一辆汽车,走到大路上,看到小轿车、面包车,潜意识也会认为这都是汽车。在没有人特意交给我们不同小种群的称谓和特性之前,我们自然具备的这种凭借主观认知的能力 ---- 特征形态的相同或近似的划在一个概念下,特征形态不同的划在不同概念下,这本身就是“聚类”的思维方式。

比较常用的聚类算法有 K-Means、DBSCAN等几种,基本思路都是利用每个向量之间的距离 ---- 空间中的欧式距离或者曼哈顿距离,从远近判断是否属于同一级别。比如,X轴上有三个点,分别为120、156、157,现在要分为两类,自然想到会把156和157归为一类,这就是聚类的思想。

在这个过程中,从获取到具体的样本向量,到得到聚类结果,人们是不需要进行干预的,这就是“非监督”一词的由来。

怎么?不难吧,那接着往下看。

回归

回归简单来说就是“有果索因”的过程,是一种归纳的思想,在机器学习领域,最常用的回归有两大类 ---- 线性回归和非线性回归。

线性回归可以表示为:

image

看到这,是不是会心一笑?哼,我小学就学过!

别着急,这里的 w 和 x 分别是 1 x n 和 n x 1的矩阵,wx 则指的是这两个矩阵的内积。如果你没学过矩阵的计算,现在可以慌了,不过反正我是不慌,我学过,哎,这就很赚。

image

具体来说,假如你在一个实验中发现一名患者的几个指标呈线性关系(注意这是个大前提,如果观察到的不是线性关系而强行线性建模的话,估计凉凉球了),拿到的 x 是一个 5 维的向量,分别代表一名患者的年龄、身高、体重、血压、血脂这几个指标值,y 标签是描述血糖程度的指标值,x 和 y 都是观测到的值。在拿到大量样本后,我猜测向量(年龄、身高、体重、血压、血脂)和与其有关联关系的血糖程度 y 值有这样的关系:

image

把每一名患者的具体向量值和血糖程度值代入,出现一系列的六元一次方程组。接下来看这个损失函数
image

让我想到了标准差,其实意思差不多。实际上就是我们假设的关系与实际观察值之间的差距,那么显而易见,我们让Loss的值尽可能的小的情况下求出 w 和 b 的值。也就可以描述成:
image

联立解方程组?不存在的,后面我们会让机器来做这件事。事实上,只要得到误差足够小的 w 和 b,并能够在验证数据集上满足当前精度就可以了。

在传统的机器学习中回归、分类这些算法里都有一个把获取到的数据集分成训练集和验证集的过程。用训练集来训练,归纳关系;用验证集数据来做验证,避免过拟合现象。数据集的划分可以三七开,也可以二八开。现在的生产环境用的大致都是这个比例,反正训练集一定要用数据多的那部分。

还好吧。线性回归还是很好理解的,接下来来认识一下非线性回归。

非线性回归类中,在机器学习领域应用最多的当属逻辑回归。逻辑回归看上去更像分类,在这种模型中观察者假设的前提是 y 只有两种值:1 或 0,或者说是 是 与 否 。

image

这里面的 wx+b 和前面线性回归中所说的是同一个概念。设 z = wx + b 则:
image

事实上,当 z > 4 之后,y 值就趋近于 1 了,而 z < -4 后,y 值就趋近于 -1了,可以简单的看成二项分布。

训练的过程跟普通线性回归一样,只不过损失函数的形式不同。但是,损失函数的含义仍旧是表示这种拟合残差与待定系数的关系。

分类

分类是机器学习中使用的最多的一大类算法,我们通常也喜欢把分类算法叫做分类器。

这个怕是最好理解的了,输入一张叮当猫的图片,输出“猫”这样一个描述标签,输入一张咪咪兔的图片,输出“兔子”这样一个描述标签。也就是在入口输入一个样本,出口期望得到一个分类的标签。这就是一个分类器最为基本的分类工作流程。

一个分类器在它诞生时是不具备这种能力的,只有通过给予它大量的图片和图片对应的标签分类,让它自己进行充分的总结归纳,才能具备这样的一种能力。

我们在编写代码教会分类器怎么做学习的时候,其实是在教它如何建立一种输入到输出的隐射逻辑,以及让它自己调整这种逻辑关系,使得逻辑更加合理。而合理的判断标准也非常明确,那就是召回率和精确率两个指标。召回率指的是检索出的相关样本和样本库中所有相关样本的比率,衡量的是分类器的查全率;精确率是检索出的相关样本数与检索出的样本总数的比率,衡量的是分类器的查准率。

有点迷茫?举个例子不就好了嘛。

假如有1000个样本的训练集,是1000张照片,其中200张是猫,200张是狗,600张兔子,一共分为三类。在用分类器对这1000张图片进行分类的时候,发现:

200张猫图片中,180张可以识别为猫,有20张误判为狗。

200狗图片全部识正确判断为狗。

600张图片中,550张识别为兔子,30张误判为猫,20张误判为狗。

则猫的召回率为:180 / 200 = 90%

兔子的召回率为:550 / 600 ≈ 91.7%

狗的精确率为:200 / 240 =83.3%

所以,当识别不全时,是对应分类器的查全率,当识别过多时,是对应分类器的查准率。

分类的训练过程和回归的训练过程一样,都是极为套路化的程序:

  1. 输入样本和分类标签
  2. 建立映射假说的某个 y = f(x) 的模型
  3. 求解出全局的损失函数 Loss 和待定系数 w 的映射关系,Loss = g(w)
  4. 通过迭代优化逐步降低 Loss,最终找到一个 w 能使得召回率和精确率满足当前场景需要。注意,这里尤其指在验证数据集上的表现。

小结

一言以蔽之,机器学习就是人类定义一定的计算机算法,让计算机根据输入的样本和一些人类的干预来总结并归纳其特征与特点,并利用这些特征和特点与一定的学习目标形成映射关系,进而自动化的做出相应反应的过程。

而就机器学习作为研究对象来说,也有传统的机器学习和深度学习两个粗略的分类方式。它们有个比较大的区别,那就是传统的机器学习通常是需要人提前先来做特征提取,把提取过的特征向量化后在丢给模型去训练,这里人要做多的前置工作。而深度学习通常可以采用 End-To-End 的学习方式,输入的内容只需要做很少的一些归一化、白化等处理就可以丢给模型去训练,通常不需要人来做特征提取的工作。而这个特征提取的动作可以由整个深度学习的网络模型帮我们自动完成,这就给很多传统机器学习中很难处理的问题带来了新的转机。

关于

本文完全参考自:《白化深度学习与TensorFlow》,对应于此书的第一章。下一节准备写 深度学习是什么?对应于此书的第二章。

最后,简书竟然不支持数学表达式,只能一个一个贴图,为了学习,忍了忍了

逃了逃了

Web note ad 1