概率论基础 —— 1. 基本事件类型、运算规则，及古典概型与几何型概型

喜欢ヅ旅行 2022-10-12 14:59 1558阅读 0赞

> 概率论与数理统计的相关知识，是机器学习及深度学习最常应用到的基本知识。因为对于机器学习和深度学习来说，最常见的一个应用场景就是训练一堆样本集后，给定一个测试样本，它可能同时具备类A和类B的特征，那么就需要通过概率判断它可能最终是类A，还是类B了。
> 
> 这里的相关知识很多来自你大学期间学习过的教材，但也不是简单的CV大法，而是带有一些我个人的看法和我所知道的应用场景在里面，希望无论是考研还是从事相关数据分析工作都能帮到你。

### 文章目录 ###

*  1.1. 基本事件类型
 *   *  包含事件
     *   *  表达式
     *  并（和）事件
     *   *  表达式
     *  差事件
     *   *  表达式
     *  交事件（积事件）
     *   *  表达式
     *  互斥事件
     *   *  表达式
     *  对立（逆）事件
     *   *  表达式
     *  独立事件
 *  1.2. 基本事件运算规则
 *   *  德摩根律
     *  加法公式
     *  减法公式
     *  对立事件
     *  交事件/积事件
 *  1.3. 基本事件练习题
 *   *  1.3.1 例
     *   *  1.3.1 解
         *  1.3.2 例
         *  1.3.2 解
         *  1.3.3 例
         *  1.3.2 解
 *  2. 古典概型
 *   *  2.1. 抽取模型
     *  2.2. 抽样模型
     *  2.3 练习题
 *  3. 几何概型
 *   *  3.1. 练习

# 1.1. 基本事件类型 #

这是我们所有概率模型的基础，所有的概率事件进行简化后都可以描述为几种以下的基本事件类型。

## 包含事件 ##

事件发生时，若事件X属于集合A，那也一定属于B，从集合来看，A是B的子集。比如对输入字符进行检测，它可能是小写字符，也可能是数字，或者大写字符。但都属于文字字符。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center]

### 表达式 ###

A ⊂ B A \\subset B A⊂B

## 并（和）事件 ##

事件发生时，可能属于类别A，也可能属于类别B，也可能同时属于类别A和B。在我们实际的场景中，这种情况通常出现在用户画像，一个用户可能具备多种不同的特征，比如喜欢购买烟草、啤酒、蛋白粉等，然后根据不同的特征组合判断用户潜在的消费习惯。亦或者是做聚类分析时，对于非法行为进行检测，可能非法样本具备一个或几个不同的特征，但不一定都具备所有特征集合。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 1]

### 表达式 ###

A ∪ B = A + B A \\cup B = A + B A∪B=A\+B

## 差事件 ##

集合A包含一些集合B中存在的样本，需要计算A中不包含B的部分。比如，在实际场景中，经常见到很多集合是彼此黏着在一起的，但是某些时候，不得不完全排除其他集合，即便这些集合可能存在需要样本，但是从总体看并不影响最后的准确率，比如一些违规行为分析和判定上，存在模糊空间，有时候出于策略考虑，会放过这些模糊的行为。另外在金融安全防控中也经常这种基本模型。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 2]

### 表达式 ###

A − B = A B ˉ = A − A B A - B = A \\bar\{B\} = A - AB A−B=ABˉ=A−AB

## 交事件（积事件） ##

事件发生时正好出于多个集合的交集。一般较少单独拿它作为一个模型使用。但是在实际场景中也不是没有遇到过。比如说电子警察，对于交通违章行为的判定上，经常会出现判定司机驾驶行为处于违章和没有违章的情况。举例来说，前方发生车祸时，后车为了进行避让，采取了碾压实线的行为。一般来说，电子眼会把这些统统算成违章，但是最终会交给民警进行审核。如果采用自动的AI进行判定，那就会出现违章和不违章同时存在的共同事件。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 3]

### 表达式 ###

A ∩ B = A B A\\cap B = AB A∩B=AB

## 互斥事件 ##

集合A和集合B没有任何交集，也就是说从概率上A B不可能发生，要么都不发生，要么只发生其中一个，在实际应用中它跟对立事件很相似。就比如说，成绩有及格和不及格之分，性别有男性和女性之分。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 4]

### 表达式 ###

A ∩ B = ϕ A \\cap B = \\phi A∩B=ϕ

其中 ϕ \\phi ϕ表示空集，即概率  P ( A ∩ B ) = 0 P(A\\cap B) = 0 P(A∩B)=0

## 对立（逆）事件 ##

有时候也叫 0-1 事件。它表示当事件发生时，它可能属于集合，也可能不属于集合。它只有二元状态，是或非。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 5]

### 表达式 ###

A ∪ A ˉ = S A \\cup \\bar\{A\} = S A∪Aˉ=S  
 A ∩ A ˉ = ϕ A \\cap \\bar\{A\} = \\phi A∩Aˉ=ϕ

其中 S S S表示全集，概率  P ( A ) = 1 − P ( A ˉ ) P(A) = 1 - P(\\bar\{A\}) P(A)=1−P(Aˉ)

## 独立事件 ##

相对比较重要，因为很多数据模型都是基于独立事件。独立事件表示集合之间没有必然联系，没有先后顺序，可能发生也可能不发生。经典的柏松等待就是基于独立事件的，也是我们进行数据分析时经常遇到的一类问题。

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 4]

确定一个模型或者场景是否独立事件一定基于以下几点：

*   P ( A B ) = P ( A ) P ( B ) P(AB) = P(A)P(B) P(AB)=P(A)P(B)，即AB事件同时发生的概率等于单独各事件的概率乘积
 *  A与B之间相互独立，因此可以有  A B AB AB,  A B ˉ A \\bar\{B\} ABˉ,  A ˉ B \\bar\{A\}B AˉB,  A ˉ B ˉ \\bar\{A\}\\bar\{B\} AˉBˉ
 *  若A 、B、C相互独立，一定有  P ( A B C ) = P ( A ) P ( B ) P ( C ) P(ABC) = P(A) P(B) P(C) P(ABC)=P(A)P(B)P(C)
 *  相互独立  ≠ \\neq = 两两独立

这其实很好理解，就跟扔骰子一样，无论有多少个骰子，投出来的点数彼此之间都是独立的。

# 1.2. 基本事件运算规则 #

注意，概率的运算过程仅可以使用加减乘除，以及满足交换律，但不满足结合律，所以在运算概率的过程，请一定牢记以下公式，或者学会绘图帮助你分析。

## 德摩根律 ##

P ( A ∪ B ) = P ( A ˉ ∩ B ˉ ) = P ( A ˉ B ˉ ) P(A \\cup B) = P(\\bar\{A\} \\cap \\bar\{B\}) = P(\\bar\{A\}\\bar\{B\}) P(A∪B)=P(Aˉ∩Bˉ)=P(AˉBˉ)

P ( A ∩ B ‾ ) = P ( A ˉ ∪ B ˉ ) P(\\overline\{A \\cap B\}) = P(\\bar\{A\} \\cup \\bar\{B\}) P(A∩B)=P(Aˉ∪Bˉ)

## 加法公式 ##

P ( A ∪ B ) = P ( A ) + P ( B ) − P ( A B ) P(A \\cup B) = P(A) + P(B) - P(AB) P(A∪B)=P(A)\+P(B)−P(AB)

P ( A ∪ B ∪ C ) = P ( A ) + P ( B ) + P ( C ) − P ( A B ) − P ( A C ) − P ( B C ) + P ( A B C ) P(A \\cup B \\cup C) =P(A) + P(B) + P(C) - P(AB) - P(AC) - P(BC) + P(ABC) P(A∪B∪C)=P(A)\+P(B)\+P(C)−P(AB)−P(AC)−P(BC)\+P(ABC)

## 减法公式 ##

P ( A − B ) = P ( A B ˉ ) = P ( A − A B ) P(A - B) = P(A \\bar\{B\}) = P(A - AB) P(A−B)=P(ABˉ)=P(A−AB)

## 对立事件 ##

P ( A ) = P ( 1 − A ˉ ) P(A) = P(1 - \\bar\{A\}) P(A)=P(1−Aˉ)

## 交事件/积事件 ##

P ( A ∩ B ) = P ( A B ) = P ( A ) ⋅ P ( B ) P(A\\cap B) = P(AB) = P(A) \\cdot P(B) P(A∩B)=P(AB)=P(A)⋅P(B)

另外，就是它还有以下几种特殊的运算形式

1.   A ∩ ϕ = 0 A \\cap \\phi = 0 A∩ϕ=0， ϕ \\phi ϕ是空集
2.   A ∩ A = A A \\cap A = A A∩A=A
3.   A ∩ S = A A \\cap S = A A∩S=A ， S是全集

并且由以上三个运算式，很容易扩展出其他并、差事件分别对应空集、全集的情况。

# 1.3. 基本事件练习题 #

我们来做点练习题，试一试你是否已经理解了这些概念

## 1.3.1 例 ##

设A，B，C是三个事件，且 P ( A ) = P ( B ) = P ( C ) = 1 / 4 P(A) = P(B) = P(C) = 1/4 P(A)=P(B)=P(C)=1/4， P ( A B ) = P ( B C ) = 0 P(AB) = P(BC) = 0 P(AB)=P(BC)=0,  P ( A C ) = 1 / 8 P(AC) = 1/8 P(AC)=1/8 求A，B，C至少有一个发生的概率。

### 1.3.1 解 ###

三个事件有一个发生，因此我们考虑三个事件共同包含的概率，则有

P ( A ∪ B ∪ C ) = P ( A ) + P ( B ) + P ( C ) − P ( A C ) − P ( B C ) − P ( A B ) + P ( A B C ) P(A \\cup B \\cup C) = P(A) + P(B) + P(C) - P(AC) - P(BC) - P(AB) + P(ABC) P(A∪B∪C)=P(A)\+P(B)\+P(C)−P(AC)−P(BC)−P(AB)\+P(ABC)

代入概率值

= 5 / 8 + P ( A B C ) = 5/8 + P(ABC) =5/8\+P(ABC)

因为从概率上讲， P ( A B C ) ≤ P ( A B ) = 0 P(ABC) \\leq P(AB) = 0 P(ABC)≤P(AB)=0，所以最后结果是 5 / 8 5/8 5/8

### 1.3.2 例 ###

已知  P ( A ) = 1 / 2 P(A) = 1/2 P(A)=1/2  
A，若A、B互不相容，求 P ( A B ˉ ) P(A\\bar\{B\}) P(ABˉ)  
B，若 P ( A B ) = 1 / 8 P(AB) = 1/8 P(AB)=1/8，求 P ( A B ˉ ) P(A\\bar\{B\}) P(ABˉ)

### 1.3.2 解 ###

直接按公式来

A： P ( A B ˉ ) = P ( A ) − P ( A B ) = 1 / 2 − 0 = 1 / 2 P(A\\bar\{B\}) = P(A) - P(AB) = 1/2 - 0 = 1/2 P(ABˉ)=P(A)−P(AB)=1/2−0=1/2  
B： P ( A B ˉ ) = P ( A ) − P ( A B ) = 1 / 2 − 1 / 8 = 3 / 8 P(A\\bar\{B\}) = P(A) - P(AB) = 1/2 - 1/8 = 3/8 P(ABˉ)=P(A)−P(AB)=1/2−1/8=3/8

### 1.3.3 例 ###

A，B是两个事件

A：已知  A B ˉ = A ˉ B A\\bar\{B\} = \\bar\{A\} B ABˉ=AˉB，求证A=B  
B：验证事件A或B恰有一个发生的概率，等于  P ( A ) + P ( B ) − 2 P ( A B ) P(A) + P(B) - 2P(AB) P(A)\+P(B)−2P(AB)

### 1.3.2 解 ###

A：我们可以根据公式来

A B ˉ = A ˉ B A\\bar\{B\} = \\bar\{A\} B ABˉ=AˉB  
 A − A B = B − A B A - AB = B - AB A−AB=B−AB  
于是就可以直接得到  
 A = B A = B A=B

B: A或B恰有一个发生的概率  → \\rightarrow →  P ( A B ˉ ∪ A ˉ B ) = P ( A ) + P ( B ) − 2 P ( A B ) P(A\\bar\{B\} \\cup \\bar\{A\}B) = P(A) + P(B) - 2P(AB) P(ABˉ∪AˉB)=P(A)\+P(B)−2P(AB)

# 2. 古典概型 #

所谓古典概型，有两个比较常见的例子，一个是彩票抽奖，或者投骰子；另一个是从有限个元素中随机抽拿几个，比如从黑球和白球的盒子里拿几个球问其中有黑球几个的这类问题，所以你不必去记背它的数学定义，记住这几个例子就可以了。

由于古典概型大体都是这两种类型，所以需要记住两个不同的概率计算方式。

## 2.1. 抽取模型 ##

这个的概念是从一堆样本中，随机抽取一个，它归属于某种类型的概率，因此

P ( A ) = 类 型 A 总 数 总 样 本 数 P(A) = \\frac\{类型A总数\}\{总样本数\} P(A)=总样本数类型A总数

## 2.2. 抽样模型 ##

抽样，指的是从一堆样本中，随机抽取数个，问抽取方式、或排列组合方式，因此

C n m = n × ( n − 1 ) × ⋯ × ( n − m + 1 ) m ! C\_n^m = \\frac\{n \\times (n-1) \\times \\cdots \\times (n-m +1)\}\{m!\} Cnm=m!n×(n−1)×⋯×(n−m\+1)  
 = n ! m ! ( n − m ! ) =\\frac\{n!\}\{m! (n-m!)\} =m!(n−m!)n!

例如，问从有4个黑球3个白球中，抽取3个球，正好出现2黑1白的概率:

P = C 4 2 C 3 1 C 7 3 = 4 ∗ 3 2 ∗ 1 3 1 7 ∗ 6 ∗ 5 3 ∗ 2 ∗ 1 = 18 35 P = \\frac\{C\_4^2C\_3^1\}\{C\_7^3\} = \\frac\{\\frac\{4\*3\}\{2\*1\} \\frac\{3\}\{1\}\}\{\\frac\{7\* 6 \* 5\}\{3 \* 2 \* 1\}\} = \\frac\{18\}\{35\} P=C73C42C31=3∗2∗17∗6∗52∗14∗313=3518

需要注意的是以下情况：

*   C m m − 1 = C m 1 C\_m^\{m-1\} = C\_m^1 Cmm−1=Cm1
 *   0 ! = 1 0! = 1 0!=1

## 2.3 练习题 ##

一袋中有4白3黑球，按下列情况，求各自概率  
A：从中每次取1个，有放回的取2次, 都是白球的概率。  
B：从中每次取1个，无放回的取2次， 都是白球的概率。  
C：有放回的取3次，恰好是1白2黑的概率

A:  
 P ( 白 ∩ 白 ) = 4 7 × 4 7 = 16 49 P(白 \\cap 白) = \\frac\{4\}\{7\} \\times \\frac\{4\}\{7\} = \\frac\{16\}\{49\} P(白∩白)=74×74=4916

B:  
 P = C 4 2 C 7 2 = 4 ∗ 3 2 7 ∗ 6 2 = 2 7 P = \\frac\{C\_4^2\}\{C\_7^2\} = \\frac\{\\frac\{4 \* 3\}\{2\}\}\{\\frac\{7 \* 6\}\{2\}\} = \\frac\{2\}\{7\} P=C72C42=27∗624∗3=72

C: 稍微有点烧脑，假设已经完成了三次取球，满足题干要求，其样本空间为

*  【黑， 白， 黑】
 *  【白， 黑， 黑】
 *  【黑， 黑，白】

所以除了算独立事件的概率外，我们还要从排列组合中随机抽取一种组合，因此需要  
 P = C 3 1 P ( 白 ∩ 黑 ∩ 黑 ) = 3 4 7 3 7 3 7 = 108 343 P = C\_3^1 P(白 \\cap 黑 \\cap 黑) = 3\\frac\{4\}\{7\} \\frac\{3\}\{7\} \\frac\{3\}\{7\}= \\frac\{108\}\{343\} P=C31P(白∩黑∩黑)=3747373=343108

# 3. 几何概型 #

很简单，我直接上一道例题好了

## 3.1. 练习 ##

如果 x ∈ \[ 1 , 6 \] x \\in \[1, 6\] x∈\[1,6\]， 那么 2 < x < 5 2 < x < 5 2<x<5的概率是多少

![在这里插入图片描述][20210706001134106.png_pic_center]

答 3/5

关于几何概型的更多资料，你可以参考[百度百科][Link 1]的相关文献：

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center]: /images/20221005/96cd7e7dbbc84fdaa0e1e95947f6f870.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221005/dcc75484d476447990a57e3f98d1ccd8.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221005/b1de4dde22a64658a2de1f14a6d0e55b.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221005/eba777dfda124433ad47f6b6f64699bd.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20221005/e33eef1e36b24271a1653af59f6514d1.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3BvaXNvbmNocnk_size_16_color_FFFFFF_t_70_pic_center 5]: /images/20221005/03a86575fcf84133b9d2c5ed0a26dee9.png
[20210706001134106.png_pic_center]: /images/20221005/4416763eb9db4606996754b41b11cc05.png
[Link 1]: https://baike.baidu.com/item/%E5%87%A0%E4%BD%95%E6%A6%82%E5%9E%8B