《机器学习实战》阅读笔记之第一部分(分类)

第一部分 分类

kNN算法:采用测量不同特征值之间的距离方法进行分类,距离未知数据最近的K个样本中类型最多的样本类型即为未知数据的类型。
优点:精度高,对异常值不敏感,且原理和实现都比较简单。
缺点:计算复杂度高,空间复杂度高,且对K值的选取有依赖。

决策树:它的一个重要任务是为了理解数据中所蕴含的知识信息,因此可以使用不熟悉的数据集合,并从中提出一系列规则,再用这一系列规则对未知数据进行分类。在本书中提到了构建决策树的关键在于通过计算香农熵来得到通过每个特征划分数据集的信息增益,以此使得无序的数据变有序,然后再通过递归来构建决策树。
优点:计算复杂度不高,输出结果易于理解。
缺点:可能会出现过度匹配问题。且算法构建过程较麻烦。

朴素贝叶斯:一种通过已知值来估计未知概率的有效方法,之所以称为朴素,是因为假定特征之间具有条件独立性(实际上不是这样,但仍可以得到一个有效的分类器)。其关键是计算条件概率来分类,通过计算未知数据属于某个类型的概率,最后属于概率最高的那一类。
优点:在数据较少的情况下任然有效。
缺点:对于输入数据的准备方式较为敏感。

Logistic回归:由于逻辑回归是一个我十分熟悉的概念,所以这一章我看的很快,简单来说逻辑回归就是通过梯度下降(书中成为梯度上升)之类的优化算法来找到一条最佳的决策边界,而再通过sigmoid函数一类的激活函数来进行分类。书中详细介绍了sigmoid函数和梯度上升算法以及随机梯度上升算法,并且进行了比较。
优点:计算代价不高,易于理解和实现。
缺点:容易欠拟合,分类精度可能不高。

SVM:支持向量机算法是我一直没有学明白的算法,在看了这本书之后,终于稍稍理解一点了。简单说,我们最后需要得到一个超平面(在二维空间就是一条线)来对数据进行分类,而数据中离超平面最近的那些点就是支持向量,SVM就是要找到一条这样的超平面,使得所有的支持向量到超平面的间隔最大,即求解最大间隔。这就是SVM的基本原理,当然书中提到了一系列具体的求解过程,由于提到了拉格朗日这个让我痛彻心扉的名字,我也就没仔细看明白了,但是需要注意的是一个叫作松弛变量的参数,因为几乎所有数据都不那么“干净”,也就是不是百分之百可以通过一个超平面分开,所以我们需要通过松弛变量来允许有些数据点可以处于分割面错误的一侧。本书中用来进行优化的是SMO算法,并给出了它的简化版和完整版实现。另外需要注意的是“核函数”这一概念,因为不是所有的数据都是线性可分的,所以我们需要通过核函数将数据从一个低维空间映射到一个高位空间,将一个在低维空间中的非线性问题转换成高维空间下的线性问题来求解。
优点:泛化错误率低,计算开销不大,结果容易解释。
缺点:对参数调节和核函数的选择敏感,原始分类器不加修饰仅适用于二分类问题。

AdaBoost元算法:这章首先介绍了bagging和boosting两种分类器构建方法,bagging是通过原始数据集抽取S次得到S个新的数据集,再用这些新的数据集对分类器进行训练,之后同时应用这S个分类器进行分类,取投票数最多的结果。而boosting是通过集中关注被已有分类器错分的数据来得到新的分类器。本章主要介绍了AdaBoost,它的运作过程是,给训练数据中的每个样本一个权重,一开始都是一样的,然后在训练数据集上训练一个弱分类器(本书训练的是单层决策树),并计算其错误率,然后在同一训练集上再次训练弱分类器,但是在这次训练中,上次分队的样本权重会降低,分错的样本权重会升高,简单来说,就是针对那些没有分队的样本进行训练。同时,为了从这些弱分类器中得到最终的分类结果,AdaBoost为每个弱分类器分配了一个权重alpha,它的值是基于分类器的错误率计算的。
优点:泛化错误率低,易编码,可以用在大多数分类器上且无参数调整。
缺点:对离群点敏感【易过拟合

非均衡类分类问题:在上一章内容之中,还介绍了非均衡类分类问题。很多时候,数据并不是根据标签对称的,比如我做的肺结节分类,无病灶区域就远远大于有病灶区域,还有的时候,不同类别的分类代价不相等,漏检一个肺结节的后果比错检一个要严重的多。所以书中提出了新的分类器性能度量方法,并进行了可视化。首先是正确率,召回率和ROC曲线的介绍,描述起来比较繁琐,我直接给一个我看过的链接吧。然后在第二节中介绍了基于代价函数的分类器控制,因为不同类别的代价不同,所以可以给予不同的权重,比如给予肺结节分类中的假阴性更大的惩罚项。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 143,048评论 1 300
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 61,330评论 1 256
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 94,541评论 0 213
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 41,042评论 0 176
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 48,821评论 1 255
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 38,795评论 1 176
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 30,413评论 2 271
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 29,173评论 0 167
  • 想象着我的养父在大火中拼命挣扎,窒息,最后皮肤化为焦炭。我心中就已经是抑制不住地欢快,这就叫做以其人之道,还治其人...
    爱写小说的胖达阅读 28,994评论 6 229
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 32,525评论 0 213
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 29,327评论 2 215
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 30,648评论 1 230
  • 白月光回国,霸总把我这个替身辞退。还一脸阴沉的警告我。[不要出现在思思面前, 不然我有一百种方法让你生不如死。]我...
    爱写小说的胖达阅读 24,248评论 0 31
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 27,142评论 2 214
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 31,521评论 3 204
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,622评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,025评论 0 166
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 33,543评论 2 230
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 33,636评论 2 231

推荐阅读更多精彩内容