开发者学堂课程【机器学习算法 :贝叶斯公式】学习笔记,与课程紧密联系,让用户快速学习知识。
课程地址:https://developer.aliyun.com/learning/course/535/detail/7271
贝叶斯公式
内容介绍
一、乘法公式
二、事件独立
一、乘法公式
1. 条件概率公式为:P(B|A)=P(AB)/P(A) (A 发生概率大于0) 两侧同时乘以 P(A),得到: P(AB)=P(A)P(B|A) 即AB同时发生的概率就等于A发生的概率乘以A发生条件下B发生的概率。该式即为概率的乘法公式。
2. 条件概率公式还可以写成:P(A|B)= P(B) P(AB)两侧同乘以P(B),得到: P(AB)=P(B)P(A|B)
3. 将乘法公式从两个事件扩展到 n 个事件:A_,A2,…,An,n>2:
P(A1A2…An)=P(A1)P(A2|A1)…P(An|A1A2…An-1)
例(1):
以 n=3 为例,推导以下:
P(A1A2A3)=P((A1A2)A3)= P(A1A2)P(A3I(A1A2))=P(A1)P(A2|A1)P(A3|(A1A2))
将 A1 和 A2 看成同一事件,再用乘法公式展开即可非常容易解决多个事件。
例(2):
100个小球,80黑20红,不放回的抽取两次,求第一次为红第二次为黑的概率。不放回的情况下,说明第二次抽取会受到第一次抽球的影响。
事件 A:抽中红球,事件 B:抽中黑球,求 P(AB)
P(AB)=P(A)P(B|A)=20/100*80/99=0.16162
第一次抽中红球概率就是100个球中的20个红球,A 发生的情况下,B 发生的概率,球总数变成99个中的80个黑球。
二、事件独立性
1.事件独立:如果两个事件是否发生相互没有影响,即称两个事件互相独立。
2.事件独立:设 A、B 是两个事件,B 发生的可能性不受到 A 的影响,即 P(B|A)=P(B),称事件 B 对于事件 A 独立。显然,事件A对于事件B也独立。
3.其充分必要条件为:P(AB)=P(A)P(B|A),将 P(B|A)=P(B)代入上式,就可以得到:p(AB)=P(A)P(B)。
拿刚才的红黑球举例,若放回第一次所抓的球,那么二者发生概率互不影响,就可以称之为独立事件。
例:
从一副没有大小王的扑克牌中随机抽取一张,事件 A 为抽到 K,事件 B 为抽到黑花色的牌,AB 是否独立?
若独立发生概率相乘等于AB同时发生概率,则为独立事件。
P(A)=4/52 ,P(B)=26/52
P(AB) =2/52 P(AB)=P(A)P(B)=4/52*26/52=2/52
4.互不相容与互相独立:两者完全不同
互不相容是说同一次随机实验中,两个事件不可能同时发生
互相独立是说同一次随机实验中,两个事件互不影响。