朴素贝叶斯为什么是线性分类器

线性分类器是通过特征的线性组合来做出分类决定的分类器。

朴素贝叶斯公式中,只要p(xi|c)是服从指数分布簇的,就可以写成是线性分类器的形式。

具体可以参见:

  1. 假设xi只能为0或1的二分类情况
    https://svivek.com/teaching/machine-learning/fall2017/slides/prob-learning/naive-bayes-linear.pdf

  2. p(xi|c)是服从指数分布簇的普遍情况
    https://stats.stackexchange.com/questions/142215/how-is-naive-bayes-a-linear-classifier

  3. 其实并不是所有的朴素贝叶斯分类器都是线性分类器。如果连续特征的朴素贝叶斯分类器中方差不相同,那我们就会发现判别公式不能写成特征值的线性加权组合。
    http://www.algorithmdog.com/%E6%9C%B4%E7%B4%A0%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%88%86%E7%B1%BB%E5%99%A8-%E6%9C%AC%E8%B4%A8%E4%B8%8A%E6%98%AF%E7%BA%BF%E6%80%A7%E5%88%86%E7%B1%BB%E5%99%A8-2

推荐阅读更多精彩内容