数据挖掘领域十大经典算法之—朴素贝叶斯算法(附代码)

大数据 算法
NaïveBayes算法,又叫朴素贝叶斯算法,朴素:特征条件独立;贝叶斯:基于贝叶斯定理。属于监督学习的生成模型,实现简单,没有迭代,并有坚实的数学理论(即贝叶斯定理)作为支撑。在大量样本下会有较好的表现,不适用于输入向量的特征条件有关联的场景。

简介

NaïveBayes算法,又叫朴素贝叶斯算法,朴素:特征条件独立;贝叶斯:基于贝叶斯定理。属于监督学习的生成模型,实现简单,没有迭代,并有坚实的数学理论(即贝叶斯定理)作为支撑。在大量样本下会有较好的表现,不适用于输入向量的特征条件有关联的场景。

数据挖掘领域十大经典算法之—朴素贝叶斯算法(附代码)

基本思想

(1)病人分类的例子

某个医院早上收了六个门诊病人,如下表:

 

现在又来了第七个病人,是一个打喷嚏的建筑工人。请问他患上感冒的概率有多大?

根据贝叶斯定理:

 

因此,这个打喷嚏的建筑工人,有66%的概率是得了感冒。同理,可以计算这个病人患上过敏或脑震荡的概率。比较这几个概率,就可以知道他最可能得什么病。

这就是贝叶斯分类器的基本方法:在统计资料的基础上,依据某些特征,计算各个类别的概率,从而实现分类。

(2)朴素贝叶斯分类器的公式

假设某个体有n项特征(Feature),分别为F1、F2、…、Fn。现有m个类别(Category),分别为C1、C2、…、Cm。贝叶斯分类器就是计算出概率***的那个分类,也就是求下面这个算式的***值:

 

由于 P(F1F2…Fn) 对于所有的类别都是相同的,可以省略,问题就变成了求

 

的***值。

朴素贝叶斯分类器则是更进一步,假设所有特征都彼此独立,因此

 

上式等号右边的每一项,都可以从统计资料中得到,由此就可以计算出每个类别对应的概率,从而找出***概率的那个类。

虽然”所有特征彼此独立”这个假设,在现实中不太可能成立,但是它可以大大简化计算,而且有研究表明对分类结果的准确性影响不大。

(3)拉普拉斯平滑(Laplace smoothing)

也就是参数为1时的贝叶斯估计,当某个分量在总样本某个分类中(观察样本库/训练集)从没出现过,会导致整个实例的计算结果为0。为了解决这个问题,使用拉普拉斯平滑/加1平滑进行处理。

它的思想非常简单,就是对先验概率的分子(划分的计数)加1,分母加上类别数;对条件概率分子加1,分母加上对应特征的可能取值数量。这样在解决零概率问题的同时,也保证了概率和依然为1。

eg:假设在文本分类中,有3个类,C1、C2、C3,在指定的训练样本中,某个词语F1,在各个类中观测计数分别为=0,990,10,即概率为P(F1/C1)=0,P(F1/C2)=0.99,P(F1/C3)=0.01,对这三个量使用拉普拉斯平滑的计算方法如下:

  1. 1/1003 = 0.001,991/1003=0.988,11/1003=0.011 

实际应用场景

  • 文本分类
  • 垃圾邮件过滤
  • 病人分类
  • 拼写检查

朴素贝叶斯模型

朴素贝叶斯常用的三个模型有:

  • 高斯模型:处理特征是连续型变量的情况
  • 多项式模型:最常见,要求特征是离散数据
  • 伯努利模型:要求特征是离散的,且为布尔类型,即true和false,或者1和0

代码实现

基于多项式模型的朴素贝叶斯算法(在github获取)

 

测试数据集为MNIST数据集,获取地址train.csv

运行结果

 

 

责任编辑:未丽燕 来源: 网络大数据
相关推荐

2018-10-27 15:47:35

CART算法决策树

2016-01-29 11:00:55

数据挖掘算法大数据

2018-05-03 09:36:53

算法数据挖掘C4.5

2018-04-25 08:10:50

算法k-means代码

2013-02-25 09:46:35

数据挖掘算法ICDM

2011-01-26 09:14:43

数据挖掘

2018-11-14 09:40:05

排序算法Java编程语言

2021-10-31 07:38:37

排序算法代码

2017-07-24 10:36:37

Python机器学习朴素贝叶斯

2019-08-28 11:08:51

排序算法Java

2017-07-18 10:50:38

前端JavaScript排序算法

2022-03-10 12:03:33

Python算法代码

2021-11-08 15:12:48

排序算法面试

2012-09-24 10:13:35

贝叶斯

2017-11-07 11:17:40

朴素贝叶斯画像数据数据挖掘

2017-07-27 14:21:44

2010-08-31 14:01:48

CSS

2017-03-29 14:50:18

2021-08-30 11:53:36

机器学习人工智能计算机

2018-02-01 18:45:12

机器学习算法线性回归
点赞
收藏

51CTO技术栈公众号