科学提升认知方法之贝叶斯公式

简介:

本篇文章将从贝叶斯公式出发,探究贝叶斯到底是啥,以及其在认知层面的巨大作用。不过据说每出现 1 个公式,文章阅读将下降 1/3。

华为大佬说:人工智能就是统计学。在我眼中,贝叶斯公式就是统计学走向机器学习的起点。

贝叶斯公式

贝叶斯定理(Bayes’s Rule):如果有k个相互独立事件 A1,A2···,Ak并且,P (A1) + P(A2) + ... + p(Ak)= 1 和一个可以观测到的事件 B,那么有:
1
这个就是贝叶斯公式,相当简洁。

公式中有几个关键概念:
P(A)为先验概率,即在观察事件B之前得到的事件A的假设概率
P(A|B) 为后验概率,即在观察事件B后得到新数据后计算该假设A的概率
P(B|A)为似然度,即在该假设A下得到这一观察数据 B 的概率
P(B)为标准化常量,即在任何假设下得到这一观察数据 B 的概率

用一句人话表达则是:

后验概率 = 先验概率×似然度

说到贝叶斯,必然离不开条件概率。

01 / 条件概率

条件概率的公式
2
条件概率翻译过来就是事件B发生条件下A发生的概率,等于 AB 同时发生的概率比上 B 发生的概率。看着和贝叶斯及其相似, 实际上贝叶斯公式也是通过条件概率来证明的,具体就不赘述了。

02 / 贝叶斯公式 VS 条件概率

条件概率是频率统计思维,通过已知的信息去计算事件出现概率,我们称之为正向概率;贝叶斯公式反其道而行之,通过实验结果去反推出现实验结果的原因,我们称之为逆概率

上面这段话听着太拗口。我们用经典的摸球行为进行说明。

1.选择略微复杂点的场景:有两个桶,A 桶中有白球 7 个,黑球 3 个;B 桶中有白球 3 个,黑球 7 个。随机选择一个桶,有放回的抓球。

2.条件概率解决的问题是:摸到白球的概率是多少?

3.贝叶斯公式解决的问题是:我们摸 5 次,出现 3 次白球,2 次黑球,从 A 桶摸球的概率。

条件概率解法:

通过先验知识,我们可以知道随机选择一个桶概率 P(A)=P(B)=0.5
通过频率统计知识,我们可以算出条件概率 P(白球|A)=0.7 P(白球|B)=0.3
因此在已知知识的情况下,我们预测摸到白球的概率 0.5X0.7 + 0.3X0.7 = 0.5

贝叶斯公式解法:

那贝叶斯需要计算的是 P(A|x 球),出现x颜色球条件下选择A桶的概率。我们从第一次摸白球开始计算。
P(A|白球 1) = P(A) x P(白球|A)/P(白球) = 0.5 x 0.7/0.5 = 0.7
这个结果的含义是第一次出现白球,则我们随机选择 A 桶的概率将从 0.5 变为 0.7

同样的计算第二次选择白球的概率 P(A|白球 2) = P(A) x P(白球|A)/P(白球) = 0.7 x 0.7/(0.7x0.7 + 0.3x0.3) = 0.8448
重复计算下来,可以得到 A 桶的概率是 0.7
即可以理解为每次不同的观察结果,对于原因会产生影响。白球增加 A 桶的概率,黑球减少 A 桶的概率。

可以看到贝叶斯更加符合我们认知世界的方式。现实世界中,我们往往能观察到大量的现象,我们更加关心现象背后的原因。比如一段文本出现大量的特征,我们会去判断是不是垃圾邮件;比如一个女生同意和你吃饭,是不是对你有好感。

贝叶斯与认知

上面的例子偏向于太学术。按照人话来看贝叶斯公式其实就是后验概率 = 先验概率×似然度。
简单的,我们认知一个新的事物前,先验概率就是我们的感性认知。似然度则是我们需要深度思考,去认真对待的调节因子。

可以看到:

似然度 > 1, 加强先验概率/感性认知

似然度 = 1,后验概率=先验概率

似然度 < 1, 减弱先验概率/感性认知

从上面的例子可以看到,似然度的影响因子主要有两个:一是增加新数据的量,二是增加新数据的质。

依然举个栗子:
男同学追女同学,总会好奇女孩子是否对自己有兴趣。

自恋的同学会说,我的女神一直看我,肯定对我有好感。

理性的同学将这个场景转化为贝叶斯公式:P(好感|看我)= 先验感觉 * 似然度。
从理性角度,先验经验“看我和对我有好感”其实没有太多必然联系,因此概率上可以按 0.5。我们为了求证 P(好感|看我)确实很高,我们就需要更多的观察数据来支持我们的结论。

比如女生是高冷女孩,那么她认真看你,这个新增的数据代表每次看你的质量是很高的,当然似然度会大于 1.
如果女生也经常盯着男生看,但是看我的次数更多,这个其实是增加了数据的量,似然度也会大于 1。
因此理性的人判断 P(好感|看我) 会比较高。

可以看到自恋的同学是将先验经验设置得太高,以至于忽略了似然度的观察,理性的同学弱化先验经验,加强了似然函数。这其实对应了两类人,强经验弱似然函数和弱经验强似然函数。如下图
3
4

两种人不能说谁优于谁,强经验的人,后验概率的波动较小。弱经验的人,根据贝叶斯公式,更利于输入新的数据,完成后验概率的更新。

总结

2020 年,提升认知成为共识。按照贝叶斯定理,处于认知更新的我们,应该弱化我们的经验,观察世界强化似然度,从而更新自己的观点。像乔帮主所说:stay hungry。

在几百年前,贝叶斯就给出了从逆概率思考的科学框架,实在是佩服。

相关文章
|
机器学习/深度学习 TensorFlow 算法框架/工具
使用Python构建简单的图像识别应用
本文将介绍如何利用Python语言及其相关库来构建一个简单但功能强大的图像识别应用。通过结合OpenCV和深度学习模型,我们将展示如何实现图像的特征提取和分类,从而实现对图像中物体的自动识别和分类。无需复杂的算法知识,只需一些基本的Python编程技巧,你也可以轻松地创建自己的图像识别应用。
|
SQL 关系型数据库 MySQL
MySQL性能优化实战:从索引策略到查询优化
MySQL性能优化聚焦索引策略和查询优化。创建索引如`CREATE INDEX idx_user_id ON users(user_id)`可加速检索;复合索引考虑字段顺序,如`idx_name ON users(last_name, first_name)`。使用`EXPLAIN`分析查询效率,避免全表扫描和大量`OFFSET`。通过子查询优化分页,如LIMIT配合内部排序。定期审查和调整策略以提升响应速度和降低资源消耗。【6月更文挑战第22天】
1630 2
|
SQL 关系型数据库 MySQL
qt登录界面简单制作,是真的保姆级别了!!!
qt登录界面简单制作,是真的保姆级别了!!!
|
前端开发 JavaScript 开发者
less详解
拥抱前端开发的未来,掌握Less的魔力!在我们精心撰写的博客文章中,你将发现如何通过学习Less这一强大的CSS预处理器,以更高效、更可维护的方式编写样式代码。无论你是初学者还是经验丰富的开发者,我们的指南将带你逐步了解Less的核心概念和语法。通过实际示例和深入解析,你将从中汲取灵感,提升你的前端技能。加入我们的学习社区,与同行分享知识,一同探索创新、时尚而富有表现力的前端设计世界! 
253 0
|
分布式计算 并行计算 数据可视化
战斗到底:Java vs. Python - 用哪个更适合处理海量数据?
战斗到底:Java vs. Python - 用哪个更适合处理海量数据?
1804 0
|
数据库连接 API Apache
(三)OpenStack---M版---双节点搭建---Keystone安装和配置
(三)OpenStack---M版---双节点搭建---Keystone安装和配置
533 0
(三)OpenStack---M版---双节点搭建---Keystone安装和配置
|
存储 弹性计算 运维
介绍几本阿里人写的书
再过一周就是读书节,分享几本阿里人写的书,希望对大家选书、读书有一定的帮助。
2435 0
介绍几本阿里人写的书
|
存储 运维 Cloud Native
把阿里巴巴的核心系统搬到云上,架构上的挑战与演进是什么?
阿里巴巴核心系统作为全球最大规模、峰值性能要求最高的电商交易系统,在 2018 年之前只通过混合云弹性上云方式,为 双11 节约大量成本。直到 2019 年,阿里巴巴实现了核心交易系统全面上云并经历了 双11 峰值的考验。
把阿里巴巴的核心系统搬到云上,架构上的挑战与演进是什么?
|
网络协议 网络性能优化 网络架构
计算机网络总结之运输层
五,运输层 (1),基本术语 进程(process): 指计算机中正在运行的程序实体 应用进程互相通信: 一台主机的进程和另一台主机中的一个进程交换数据的过程(另外注意通信真正的端点不是主机而是主机中的进程,也就是说端到端的通信是应用进程之间的通信) 传输层的复用与分用: 复用指发送方不同的进程都可以通过统一个运输层协议传送数据。
1587 0