程序员的数学【概率论】(一)

简介: 本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 概率论

前言

本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 概率论,本文涵盖了一些计算的问题并使用代码进行了实现,安装代码运行环境见博客:最详细的Anaconda Installers 的安装【numpy,jupyter】(图+文),如果你只是想要简单的了解有关线代的内容,那么只需要学习一下博文:NumPy从入门到高级,如果你是跟着博主学习AIoT的小伙伴,建议先看博文:数据分析三剑客【AIoT阶段一(下)】(十万字博文 保姆级讲解),如果你没有Python基础,那么还需先修博文:Python的进阶之道【AIoT阶段一(上)】(十五万字博文 保姆级讲解)


一、概率论与机器学习

🚩机器学习其实是集合了统计学、概率论、计算机科学、数学算法等方面的交叉研究,即便你对机器学习的应用炉火纯青,但对这些技术没有一个全面的数学理解,极有可能出现应用失误。因此与其说为什么概率论与数理统计在机器学习中为什么这么重要,不如说为什么数学在机器学习中为什么这么重要!


概率论研究的是事物的不确定性,它是统计学、信息论的前置课程。概率论的难度系数属中等,毕竟你在高中就学习过如何计算一个随机变量的期望、方差。从机器学习的视角来看,概率论是必须要了解的,但不需要达到精通的程度。你只需要灵活运用它,把机器学习世界的不确定性变量算清楚就足够了。因此,当你掌握了概率论,你就揭开机器学习世界神秘的一层面纱。


对于有监督机器学习,其属性特征数据对应X它的目标值标签对应 y,如果我们把它当作是随机变量的话,那我们就可以用概率论的观点对它进行建模。假设它服从某种概率分布,比如说人的身高大体是服从正太分布的,像姚明一样非常高的非常少,像郭敬明一样矮也是非常少的,比如中国的男性平均身高1.75左右,画出来就是我们学概率论和数理统计时候的一个正太分布:

image.png

我们要是对数据进行分类的话,根据他的身高、体重等等,那我们就可以对他的身高进行建模来计算它服从某种分布,然后计算他的概率,这就是我们要学习概率论的原因。


二、随机事件

🚩什么是随机事件呢? 就是可能发生,也可能不发生的事件。比如你抛硬币,它正面朝上或者反面朝上,这就是一个随机事件;生孩子,生男生女这也是一个随机事件。


如果一定发生的话,这种称为必然事件,比如说太阳明天会升起,这肯定是必然事件;不可能发生的事件,我们称之为不可能事件,比如水往高处流,这就是不可能事件。


我们一般把随机事件用大写字母 A 或 B 这样来表示,每一个随机事件它关联有一个发生的概率,记作 P ( A ) ,像抛硬币它正面朝上的概率是 0.5 ,反面朝上的概率也是 0.5 ,0 ≤ P ( A ) ≤ 1 。 如果概率等于 1 那就是必然事件,如果等于 0 那就是不可能事件。以前学概率论时,老师交了我们各种计算概率的方法,比如抽各种颜色的球等等这样的问题,一般都是用排列组合来算的。


三、条件概率

3.1 条件概率公式

image.png

image.png

Ω 表示样本空间,即表示全部事件。

3.2 贝叶斯公式

🚩根据条件概率公式,可以推导出贝叶斯公式:

image.png

贝叶斯公式得到的结果是后验概率,后验概率是指依据得到’'结果"信息所计算出的最有可能是那种事件发生,如贝叶斯公式中的, 是"执果寻因"问题中的"因"。

举例说明:餐桌上有一块肉和一瓶醋,你如果吃了一块肉,很酸,那你觉得肉里加了醋的概率有多大?你说:80%可能性加了醋。OK,你已经进行了一次后验概率的猜测,没错,就这么简单!这就是"执果寻因"。


贝叶斯公式在整个机器学习和深度学习中是非常有用的,因为很多时候我们要用一种叫做最大化后验概率Maximum a posterioriestimation,简称 MAP)的思想。


四、随机事件独立性

🚩说白了就是两个事情是不相关的, B 在 A  发生的条件下发生的概率是等于 B  本身发生的概率:

image.png

我们可以把它推广到 n个事件相互独立的情况上面去,就是等于各自发生概率的乘积:

image.png

五、随机变量

🚩整个概率论的核心。变量是什么呢?

我们中学的时候就学习过变量了,它是取值可以变化的量,比如可以取 0 到 1  区间上所有的实数,或者取从 1  到 100 之间的整数。

5.1 离散随机变量

🚩随机变量是什么呢?

就是变量取值都有一个概率。第一种情况是离散型的随机变量,比如前面说的抛硬币正面朝上还是反面朝上,这是两个事件,我们可以把这两个事件编号,得到:

image.png

5.2 连续随机变量

🚩连续型的随机变量,理解起来抽象一些,它的取值是无限不可列个,比如 0 到 1 之间的所有的实数,首先它肯定是无限个,而它比无限可列个更高级,它不可列,比如其中的 0.001  到 0.002 之间还是有无限个,不管怎么细分,a 和 b之间还是有无限个,这就是连续型的随机变量,比如说抛石子在 0  到 1 的矩形范围内,它可能落在区域内任何一个位置,那么石子落在的位置 x , y  就是连续型随机变量,说白了就是它坐标取 0 到 1 之间任何一个值都是有可能的。对于离散型随机变量,写成如下:

image.png

对于连续型随机变量我们是这么定义的,利用它的概率密度函数来定义

image.png

通过概率密度函数可以计算事件发生的概率P(y),注意对于连续随机变量,往往计算区间的概率:

image.png

18.png

需要注意的是,连续性随机变量它取某个具体值的概率是0的,p(x=xi)=0但是它落在某个区间范围的概率是有值的,因为算的是面积,就好像前面提到的石子落到区域内的面积

5.3 概率密度函数概率计算

import numpy as np
import matplotlib.pyplot as plt
from scipy import integrate # 积分
# 正态分布概率密度函数f(x)
def f(x, sigma, u): # sigma标准差,u均值、期望
    return 1 / (np.sqrt(2 * np.pi) * sigma) * np.exp(-(x - u) ** 2 / (2 * sigma ** 2))
x = np.linspace(-10, 10, 300)
y = f(x, 1, 0) # 标准正态分布
plt.plot(x, y)
print('横轴区间(μ-σ,μ+σ)内的面积(概率)为:',np.round(integrate.quad(f, -1, 1, args = (1, 0))[0], 4))
print('横轴区间(μ-2σ,μ+2σ)内的面积(概率)为:',np.round(integrate.quad(f, -2, 2, args = (1,0))[0], 4))
print('横轴区间(μ-3σ,μ+3σ)内的面积(概率)为:',np.round(integrate.quad(f ,-3, 3, args = (1,0))[0], 4))

19.png










目录
相关文章
|
数据安全/隐私保护
Gitlab----管理员如何创建用户并邮件通知
Gitlab----管理员如何创建用户并邮件通知
2240 0
Gitlab----管理员如何创建用户并邮件通知
|
存储 算法 调度
【软件设计师备考 专题 】存储管理(主存保护、动态连接分配、分段、分页、虚存)
【软件设计师备考 专题 】存储管理(主存保护、动态连接分配、分段、分页、虚存)
828 0
|
9月前
|
人工智能 算法 安全
Gemini 3 Deep Think 升级:Codeforces 3455 分,科研级推理能力全面开放
Gemini 3 Deep Think 是Google DeepMind推出的高推理模式AI,在ARC-AGI-2达84.6%、Codeforces获3455 Elo(全球前10),并逼近数理化奥赛金牌水平。它专注科研级推理、工程建模与成本优化,标志AI从“解题”迈向“协同科研”。
|
7月前
|
缓存 前端开发 定位技术
Flutter for OpenHarmony 实战之基础组件:第三篇 Stack 层叠布局详解
本文详解 Flutter for OpenHarmony 中 Stack 层叠布局:涵盖 Z 轴堆叠原理、Alignment 对齐与 Positioned 精准定位,实战 Badge 角标、新闻 Banner 及 IndexedStack 页面状态保持,助你高效构建跨端复杂 UI。(239字)
696 1
Flutter for OpenHarmony 实战之基础组件:第三篇 Stack 层叠布局详解
|
应用服务中间件 定位技术 网络安全
住宅IP和运营商IP有什么区别?
随着数字化发展,网络安全与隐私保护日益重要,代理IP成为热门选择。住宅IP由ISP分配给家庭用户,通常是动态的,适合日常上网,费用较低,且具有较高隐私保护。运营商IP则分配给企业或数据中心,多为静态,适用于高稳定性和带宽需求的业务,安全性更高但成本也更高。两者在用途、特性和成本上存在显著差异,用户可根据需求选择。
765 1
|
消息中间件 存储 JSON
日志采集 Agent 性能大比拼——LoongCollector 性能深度测评
为了展现 LoongCollector 的卓越性能,本文通过纵向(LoongCollector 与 iLogtail 产品升级对比)和横向(LoongCollector 与其他开源日志采集 Agent 对比)两方面对比,深度测评不同采集 Agent 在常见的日志采集场景下的性能。
1345 34
|
存储 缓存 Unix
从原理到实践:掌握DPDK内存池技术(上)
从原理到实践:掌握DPDK内存池技术
|
网络协议 数据处理
说一说 Netty 中的心跳机制
我是小假 期待与你的下一次相遇 ~
331 1
|
SQL 监控 供应链
如何开发ERP系统中的委外管理板块(附架构图+流程图+代码参考)
在ERP系统中,委外管理模块能有效提升企业生产效率、降低成本。通过工单下发、物料发放、退料、入库及数据分析等功能,实现对外部合作的全流程管理,确保信息透明与流程顺畅。本文详解模块开发技巧与实现方案,助力企业快速搭建高效委外管理体系。
|
Android开发
Android PackageManagerService源码分析和APK安装原理详解
Android PackageManagerService源码分析和APK安装原理详解
1672 1