机器学习介绍(基于Python scikit-learn模块)

Machine learning : 综述


通常,一个机器学习问题是通过n个样本数据去预测或是发现一些未知的数据。如果每个样本是由超过一个的数据组成,那么我们称组成该数据有一些熟悉或者特征。

  • 机器学习问题按照目的一般可以分为一下两类:
  • 分类问题
    所谓分类问题,是指已知输入数据,要判断数据属于哪一类,要求属于同类的数据具有预先定义的相似性
  • 回归问题
    回归问题本质上和分类问题并没有什么很大不同,为已知输入数据求输出数据,区别在于,分类问题的预测属性是离散值,而回归问题的预测属性是连续值
  • 还可以分为下面这两类:
  • 监督问题
    监督问题是指需要一部分输入数据及对应的输出数据来训练学习模型。
  • 非监督问题
    非监督问题是指只需要输入数据而不必有对应的输出数据

训练集与验证集

机器学习本质上是通过已知的一些数据的特征来应用于未知的数据,为了证明模型的正确性,通常需要准备两个数据集:训练集验证集。训练集是用来训练模型,让模型学习这些数据的特征;验证集是用来检验训练后的模型的正确性。

1 获取数据及数据的预处理

现实世界的数据大都不能直接用来分析,在分析之前需要进行数据清理、数据转换、数据集成等预处理步骤后才能使用。
详情见我的另一篇文章python data analysis | python数据预处理(基于scikit-learn模块)

2 模型的学习和预测

  • 选择模型
    根据数据的不同及问题的不同需求来选择要用的模型,下面一张图片可以提供选择模型时的参考
    Choosing the right estimator — scikit-learn 0.17.1 documentation
    ml_map.png
  • 选择参数
    我们希望学习的模型是最小化误差的,所以可以选择备选的参数空间,然后用交叉验证的方法产生训练集合验证集来对不同参数的模型效果进行评估,选择一个最好的模型。

3 训练模型的保存

因为Python每次关闭都会清空使用内存,为了保存训练完成的模型,可以使用Python中的序列化模块pickle来进行序列化反序列化。序列化及将内存中的数据存储在文件中,反序列化是指将文件中的数据转移到内存中。

clf表示训练完成的分类模型

file表示存储的路径

import pickle
file=open(,)
pickle.dump(clf, file])
file.close()
clf=pickle.load(file)


##4 约定
* 类型约定:
除非另有说明,否则所有的输入数据类型将被`fit_transform(X)`转换成`float64`类型
* 更新超参数:
超参数可以理解为训练之前的模型所需要的参数,比如k-means分类方法中的k就是一个超参数。超参数的修改可以用下面这种格式修改
`clf.set-params(param1=*p1*,param2=*p2*,...) #param1是具体的超参数名称,*p1*等是选择参数数值`

#####本文信息参考[scikit-learn官方文档](http://scikit-learn.org/stable/tutorial/text_analytics/working_with_text_data.html)
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,117评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,328评论 1 293
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,839评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,007评论 0 206
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,384评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,629评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,880评论 2 313
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,593评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,313评论 1 243
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,575评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,066评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,392评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,052评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,082评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,844评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,662评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,575评论 2 270

推荐阅读更多精彩内容