古典概率，先验概率，后验概率，贝叶斯分类器

た入场券 2022-04-11 11:48 242阅读 0赞

**古典概率：**[随机现象][Link 1]所能发生的事件是有限的、互不相容的,而且每个[基本事件][Link 2]发生的可能性相等。

** ** 两个特点：

一是试验的[样本空间][Link 3]有限，如掷硬币有正反两种结果，掷骰子有6种结果等；

二是试验中每个结果出现的可能性相同，如硬币和[骰子][Link 4]是均匀的前提下，掷硬币出现正反的可能性各为1/2，掷骰子出出各种[点数][Link 5]的可能性各为1/6。

**先验概率：***是指根据以往经验和分析得到的概率.。*

*      * 意思是说我们人有一个常识,比如骰子,我们都知道概率是1/6,而且无数次重复实验也表明是这个数,这是一种我们人的常识,也是我们在不知道任何情况下必然会说出的一个值.而所谓的先验概率是**我们人在未知条件下对事件发生可能性猜测的数学表示**!\*

**后验概率：***事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小。*

**先验概率，就是一般的概率；后验概率，是条件概率。**

用P(h)表示在没有训练数据前假设h拥有的初始概率。

P(h)被称为h的先验概率。

先验概率反映了关于h是一正确假设的机会的背景知识如果没有这一先验知识，可以简单地将每一候选假设赋予相同的先验概率。类似地，P(D)表示训练数据D的先验概率，P(D|h)表示假设h成立时D的概率。

机器学习中，我们关心的是P(h|D)，即给定D时h的成立的概率，称为h的后验概率。

**贝叶斯公式：**

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV6aHVveXVlNTgz_size_16_color_FFFFFF_t_70][]

这里的 ![2018120610383058.png][] 就是初始概率，作为先验概率。

![20181206103848873.png][] 就是后验概率，根据结果，来推出发生这件事的原因。

贝叶斯公式，考虑到了先验概率，即 ![2018120610383058.png][] 作为已知条件。

![20181206103848873.png][]：计算，给定B时Ak成立的概率，可以用作分类。比如：垃圾邮件的分类，通过给定邮件的特征，来预测这封邮件是

垃圾邮件，还是非垃圾邮件。

B是邮件的特征，A为分类种别。垃圾邮件，非垃圾邮件。

**贝叶斯分类器是有监督的**，需要标签进行学习。

**贝叶斯分类器是生成模型**，因为贝叶斯分类器在训练时，关注垃圾邮件是如何生成的，垃圾邮件有哪些特征，非垃圾邮件有哪些

特征，计算 ![20181206103848873.png][] 时，需要计算 ![20181206112341209.png][]，这就是让模型知道，垃圾邮件应该具备哪些的特征，非垃圾邮件应该

具备哪些的特征。

**贝叶斯分类器是非线性，**因为变量之间的关系不是一次函数，图像不是直线。

贝叶斯分类器：

1.类型：有监督，生成模型，非线性。

2.是否支持多分类：是

参考：

[   https://www.cnblogs.com/yemanxiaozu/p/7680761.html][https_www.cnblogs.com_yemanxiaozu_p_7680761.html]

[https://wenku.baidu.com/view/fe84f83143323968011c9276.html][https_wenku.baidu.com_view_fe84f83143323968011c9276.html]

[https://blog.csdn.net/w\_doudou/article/details/80596490][https_blog.csdn.net_w_doudou_article_details_80596490]

[Link 1]: https://baike.baidu.com/item/%E9%9A%8F%E6%9C%BA%E7%8E%B0%E8%B1%A1
[Link 2]: https://baike.baidu.com/item/%E5%9F%BA%E6%9C%AC%E4%BA%8B%E4%BB%B6/552306
[Link 3]: https://baike.baidu.com/item/%E6%A0%B7%E6%9C%AC%E7%A9%BA%E9%97%B4
[Link 4]: https://baike.baidu.com/item/%E9%AA%B0%E5%AD%90/1823190
[Link 5]: https://baike.baidu.com/item/%E7%82%B9%E6%95%B0
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3podWlxaXV6aHVveXVlNTgz_size_16_color_FFFFFF_t_70]: /images/20220411/79cb358bd320474caf4156b4595d4565.png
[2018120610383058.png]: /images/20220411/a86eb464b22c494d8a73eaef24888f03.png
[20181206103848873.png]: /images/20220411/6a4bb970fc9b443fb252971bae6df6f2.png
[20181206112341209.png]: /images/20220411/ab6288ab62574854a7b49c880130c97e.png
[https_www.cnblogs.com_yemanxiaozu_p_7680761.html]: https://www.cnblogs.com/yemanxiaozu/p/7680761.html
[https_wenku.baidu.com_view_fe84f83143323968011c9276.html]: https://wenku.baidu.com/view/fe84f83143323968011c9276.html
[https_blog.csdn.net_w_doudou_article_details_80596490]: https://blog.csdn.net/w_doudou/article/details/80596490