凸优化理论基础3——凸集和凸锥重要例子

简介: 凸优化理论基础3——凸集和凸锥重要例子

凸优化理论基础3——超平面和半空间

  之前我们已经介绍了仿射集、凸集、凸锥等概念,这节将来介绍超平面和半空间。🌵🌵🌵

超平面

定义: 超平面是具有下面形式的集合image.png

上述定义还可以表示成以下形式:image.png

 其中X0是超平面上的任意一点。不清楚观此视频🍜🍜🍜这里来看看超平面的几何解释,如下:

aea69d965afd019ae2d8f89d6a68a488.png

半空间

image.png84c4bef372ae8bfdd27fe5a7818a4ce2.png

超平面和半空间是凸集

 首先直接给出以下结论:

  • 超平面是仿射集
  • 超平面是凸集
  • 半空间不是仿射集
  • 半空间是凸集

这里我想来证明证明超平面是凸集半空间是凸集这两个结论【证明凸集及后面证明凸函数比较重要】

  1. 证明超平面是凸集3f9f65291daa4709b70c9d8912790e07.png
  2. 证明半空间是凸集ceca4a040fb44a258b70a346814ea362.png


球和椭球image.png5a6de37d6b4782840b7438364a7264a8.png

椭球也是凸集,其定义如下:

image.png

其中P是对称正定矩阵。

 

关于此部分视频链接:https://www.bilibili.com/video/BV1xp4y1C7z1/?spm_id_from=autoNext🍁🍁🍁

范数球和范数锥

image.png

关于此部分视频链接:https://www.bilibili.com/video/BV1oA411t7L4/?spm_id_from=autoNext🍁🍁🍁


多面体

  多面体被定义为有限个线性等式和不等式的解集,如下:

image.png78c5838f98780c3dff96953f4fd476e9.png

单纯形

image.png

image.png

 下面给出一些常见的单纯形:

  • 一维单纯形是一条线段
  • 二维单纯形是一个三角形
  • 三维单纯形是一个四面体


半正定锥

image.png

此部分参考视频:https://www.bilibili.com/video/BV1Gt4y127oW/?spm_id_from=autoNext🍁🍁🍁

相关文章
|
2月前
|
机器学习/深度学习 自然语言处理 算法
【模式识别】探秘判别奥秘:Fisher线性判别算法的解密与实战
【模式识别】探秘判别奥秘:Fisher线性判别算法的解密与实战
71 0
|
4月前
|
机器学习/深度学习 人工智能 算法
上升到人生法则的贝叶斯理论
贝叶斯定理在数据分析、机器学习和人工智能等领域有广泛的应用。贝叶斯定理(Bayes' theorem)是一种用于计算条件概率的重要定理,它基于条件概率的定义,描述了在已知某一条件下,另一个条件发生的概率。
|
9天前
|
机器学习/深度学习 存储 人工智能
一阶优化算法启发,北大林宙辰团队提出具有万有逼近性质的神经网络架构的设计方法
【4月更文挑战第19天】北京大学林宙辰团队在深度学习领域取得突破,提出基于一阶优化算法的神经网络设计方法,构建具有万有逼近性质的模型,提升训练速度和泛化能力。该方法利用一阶导数信息,高效处理大规模问题。虽然面临非光滑优化和收敛速度挑战,但团队通过正则化和自适应学习率等策略进行改进,相关研究在多个标准数据集上表现出色。
10 1
|
1月前
|
存储 机器学习/深度学习 算法
图论基础:从数学原理到C/C++实现
图论基础:从数学原理到C/C++实现
73 0
|
8月前
|
机器学习/深度学习 算法 Python
数学和微分角度理解梯度下降算法
数学和微分角度理解梯度下降算法
|
10月前
|
机器学习/深度学习 人工智能 算法
强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
 强化学习基础篇【1】:基础知识点、马尔科夫决策过程、蒙特卡洛策略梯度定理、REINFORCE 算法
|
机器学习/深度学习 人工智能 移动开发
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
240 0
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
|
机器学习/深度学习 人工智能 资源调度
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)
234 0
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)
|
机器学习/深度学习 人工智能 算法
【机器学习】支持向量机(SVM)——硬间隔+对偶+KKT条件+拉格朗日乘子(理论+图解+公式推导)
【机器学习】支持向量机(SVM)——硬间隔+对偶+KKT条件+拉格朗日乘子(理论+图解+公式推导)
189 0
【机器学习】支持向量机(SVM)——硬间隔+对偶+KKT条件+拉格朗日乘子(理论+图解+公式推导)
概率统计中最重要的概念:概率统计与马尔可夫链的理解
概率统计中最重要的概念:概率统计与马尔可夫链的理解
155 0
概率统计中最重要的概念:概率统计与马尔可夫链的理解