sklearn之OneClassSVM

1.简介:

(1)无监督异常值检测

(2)解决非平衡样本分类


2.函数定义

class sklearn.svm.OneClassSVM(kernel=’rbf’degree=3gamma=’auto’coef0=0.0tol=0.001nu=0.5shrinking=Truecache_size=200verbose=Falsemax_iter=-1random_state=None)


3.参数含义:

kernel:


4.OneClass与2分类,多分类的区别

    典型的2类问题:识别邮件是否是垃圾邮件,一类“是”,另一类“不是”

    典型的多类问题:人脸识别,每个人对应的脸就是一个类,然后把待识别的脸分到对应的类中去

    而OneClassClassification,它只有一个类,属于该类就返回结果“是”,不属于就返回结果“不是”,乍一听感觉与2分类没什么区别,其实他们的思想有很大差异。在2分类问题中,训练集中就由两个类的样本组成,训练出的模型是一个2分类模型;而OneClassClassification中的训练样本只有一类,因此训练出的分类器将不属于该类的所有其他样本判别为“不是”即可,而不是由于属于另一类才返回的“不是”结果。

    现实场景中的OneClassClassification例子:现在有一堆某商品的历史销售数据,记录着买该产品的用户信息,此外还有一些没有购买过该产品的用户信息,想通过2分类来预测他们是否会买该产品,也就是弄两个类,一类是“买”,一类是“不买”。当我们要开始训练2分类器的时候问题来了,一般来说没买的用户数会远远大于已经买了的用户数,当将数量不均衡的正负样本投入训练时,训练出的分类器会有较大的bias(偏向值)。因此,这时可以使用OneCLassClassification方法来解决,即训练集中只有已经买过该产品的用户数据,在识别一个新用户是否会买该产品时,识别结果就是“会”或者“不会”。


5.OneClassCLassification的具体实现

多类Classification方法有很多,比如SVM寻找一个最优超平面把正负样本分开,总之都涉及到不止一个类的样本,相当于告诉算法“这种东西长什么样,那种东西长什么样”。于是训练出一个模型能够区分这些东西。

问题在于,OneCLassClassification只有一个类,该怎么办?

介绍一个方法:SVDD(support vector domain description),中文翻译为“支持向量域描述”

其基本思想是:既然只有一个class,那么我就训练出一个最小的超球面(超球面是指3维以上的空间中的球面,对应的2维空间中就是曲线,3维空间中就是球面),将这堆数据全部“包起来”,识别一个新的数据点时,如果这个数据点落在超球面内,就属于这个类,否则不是。

下面是在2维空间(实际情况中,如果提取的特征多,维数就高)中的例子,

更多原理公式推导,详见 http://blog.sina.com.cn/s/blog_4ff49c7e0102vlbv.html

推荐阅读更多精彩内容