程序员的数学【多元函数微分学】(一)

简介: 本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 多元函数微分学

前言

本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 多元函数微分学,读之前建议先看:程序员的数学【微积分基础】本文涵盖了一些计算的问题并使用代码进行了实现,安装代码运行环境见博客:最详细的Anaconda Installers 的安装【numpy,jupyter】(图+文)如果你只是想要简单的了解有关线代的内容,那么只需要学习一下博文:NumPy从入门到高级,如果你是跟着博主学习AIoT的小伙伴,建议先看博文:数据分析三剑客【AIoT阶段一(下)】(十万字博文 保姆级讲解),如果你没有Python基础,那么还需先修博文:Python的进阶之道【AIoT阶段一(上)】(十五万字博文 保姆级讲解)


一、多元函数的定义

image.png

二、偏导数

image.png

偏导数,可以看作是导数的推广,对于多元函数来说,我们把其它的自变量固定不动,看成是常量,我们对其中的某一个变量求导数的话,那就是偏导数了,只对一个变量求导数!

image.png

几何意义上面来说就是在某个方向上对原函数来切一下,再去求导,就是偏导数。举例说明:

image.png

对变量 x  求偏导数,其中 y  是常量

image.png

对变量 y 求偏导数,则 x 是常量

image.png

三、高阶偏导数

🚩有高阶导数,同样也有高阶偏导数,它的情况比高阶导数要复杂一些,因为它的求导变量有多个,比如说:image.png

它对 x , y 求高阶偏导数的话,就是先对 x 求偏导,再对 求偏导,其实跟一元函数的高阶导数是一样的,依次对每个变量反复求导即可,我们还是以上面的公式为例:

image.png

二元函数的二阶偏导数有四个:

image.png

有个重要的结论,就是高阶导数和求导次序无关:

image.png

四、梯度

🚩机器学习中的梯度下降法,和牛顿法很多地方都会用到梯度这个概念。

image.png

梯度可以看成一元函数的导数,对于多元函数来说就是偏导数而已。

对于多元函数如果它的自变量有N个:x1,x2,...xn它的梯度是个向量,是由对x1,x2,...xn变量

求偏导数构成的这样一个向量,称之为梯度。梯度我们用倒三角这个符号来表示,对f(x)求梯度得到上面所示的向量f(x)

五、雅可比矩阵

5.1 雅克比矩阵定义

🚩这个可能很多同学学高等数学的时候可能没有学过,但是这个也比较好理解,就是由一阶偏导数构成的矩阵,发明它的目的主要是为了简化求导公式,对多元的复合函数求导,如果我们用雅可比矩阵来计算的话,它会写起来非常简洁,这在我们的人工神经网络反向推导的过程中往往会看到的。

image.png

5.2 雅克比矩阵示例

image.png





目录
相关文章
|
6月前
|
自然语言处理
数学基础从高一开始1、集合的概念
数学基础从高一开始1、集合的概念
69 0
|
3月前
|
机器学习/深度学习 存储 人工智能
矩阵乘法运算:在这看似枯燥的数字组合中,究竟蕴含着怎样令人称奇的奥秘?
【8月更文挑战第19天】矩阵乘法不仅是数学概念,还在工程、图像处理及AI等领域发挥核心作用。例如,通过矩阵乘法可精确实现图像变换;在神经网络中,它帮助模型学习和优化以识别图像和理解语言。两个矩阵A(m×n)与B(n×p)相乘得C(m×p),其中C[i,j]为A的第i行与B的第j列元素乘积之和。尽管面临维度匹配等挑战,矩阵乘法仍在持续推动技术创新。下次享受智能服务时,不妨想想背后的矩阵乘法吧。
68 3
|
6月前
|
机器学习/深度学习 算法 BI
【设计】 【数学】1622 奇妙序列
【设计】 【数学】1622 奇妙序列
数学问题-反射定律&折射定律的向量形式推导
数学问题-反射定律&折射定律的向量形式推导
204 0
|
机器学习/深度学习 移动开发 算法
多元函数微分学
多元函数微分学
|
机器学习/深度学习
数理逻辑—命题公式及其赋值与分类
数理逻辑—命题公式及其赋值与分类
|
机器学习/深度学习
【离散数学】代数结构
1. 封闭性 2. 可交换 3. 可结合 4. 可分配 5. 吸收律 6. 等幂的 7. 幺元 8. 零元 9. 逆元 10. 广群 11. 半群 12. 子半群 13. 独异点 14. 群 15. 子群 16. 阿贝尔群(交换群) 17. 循环群 18. 陪集 19. 拉格朗日定理 20. 环 21. 整环 22. 域
184 0
【离散数学】代数结构
|
机器学习/深度学习 程序员
程序员的数学【多元函数微分学】(二)
本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 多元函数微分学
177 0
程序员的数学【多元函数微分学】(二)
|
程序员
程序员的数学【最优化】(二)
本文其实值属于:程序员的数学【AIoT阶段二】 的一部分内容,本篇把这部分内容单独截取出来,方便大家的观看,本文介绍 最优化
247 0
程序员的数学【最优化】(二)