学习笔记: 机器学习经典算法-空间内一点到超平面的距离推广公式

简介: 机器学习经典算法-个人笔记和学习心得分享

超平面 与 法向量

超平面(H,Hyperplane) 是二维平面中直线、三维空间中平面对象的推广形式,本质是$n$维空间的一个子空间,满足向量加法与乘法的封闭。空间中的平面都可以被平面上任意一点$x_0$及与平面内任意向量所垂直的平面法向量$\vec w$所确定:

定义空间内一超平面为 $H$
在平面上确定一点 $x_0$,就有平面上其它任意点$x$ 与$x_0$所成向量 $\vec {x_0x}$ 与垂直于法线 :
$\vec {x_0x} \cdot \vec w = 0 \rightarrow (\vec x - \vec x_0)\cdot \vec w = 0$
$\therefore \vec {x_0x} \cdot \vec w = \vec w^T\vec x - \vec w^T\vec x_0 = 0$

由于 $x_0$ 为提前确定的平面内一点,则有 $\frac {\vec w^T\vec x_0}{\|\vec w\|}$ 计算了空间原点$O$与$x_0$ 所成向量到平面法向量的投影长度,实质上描述了 平面H 偏离空间原点的距离 ,这个偏移量描述一般描述为 $b = - \frac {\vec w^T\vec x_0}{\|\vec w\|}\cdot \|\vec w\|$的形式。当 $b = 0$ 时意味着超平面未发生偏移,过空间原点$O$。
这样根据平面内一点和法向量确立的平面的约束方程称为 点法式超平面方程:
$$w^Tx + b= 0$$

点到超平面距离

对于空间上的任意点 $X$ 到 $w$ 所定义的超平面H的距离 $d$ 就有等于向量$\vec {OX}$ 在平面法向量上的投影距离 $\frac {wX}{\|w\|}$ 减去平面相对原点的偏移量$\frac {-b}{\|w\|}$,即:

$$d(X \rightarrow H) = |\frac {wX}{\|w\|} - \frac {-b}{\|w\|}| = \frac {|wX+b|}{\|w\|}$$
如在简单二维空间内,平面上的一点 $(x_1,y_1)$ 到直线形式的超平面对象 $Ax + By +C = 0$ 的距离就可以描述为 $ d = \frac {|Ax_0 + By_0 + C|}{\sqrt {A^2 + B^2}}$

目录
相关文章
|
机器学习/深度学习 存储 搜索推荐
利用机器学习算法改善电商推荐系统的效率
电商行业日益竞争激烈,提升用户体验成为关键。本文将探讨如何利用机器学习算法优化电商推荐系统,通过分析用户行为数据和商品信息,实现个性化推荐,从而提高推荐效率和准确性。
782 14
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
机器学习/深度学习 数据采集 算法
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
1736 0
|
机器学习/深度学习 数据采集 监控
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
2607 0
|
11月前
|
算法 机器人 定位技术
基于机器视觉和Dijkstra算法的平面建筑群地图路线规划matlab仿真
本程序基于机器视觉与Dijkstra算法,实现平面建筑群地图的路径规划。通过MATLAB 2022A读取地图图像,识别障碍物并进行路径搜索,支持鼠标选择起点与终点,最终显示最优路径及长度,适用于智能导航与机器人路径规划场景。
|
机器学习/深度学习 人工智能 算法
探索机器学习中的支持向量机(SVM)算法
【2月更文挑战第20天】 在数据科学与人工智能的领域中,支持向量机(SVM)是一种强大的监督学习算法,它基于统计学习理论中的VC维理论和结构风险最小化原理。本文将深入探讨SVM的核心概念、工作原理以及实际应用案例。我们将透过算法的数学原理,揭示如何利用SVM进行有效的数据分类与回归分析,并讨论其在处理非线性问题时的优势。通过本文,读者将对SVM有更深层次的理解,并能够在实践中应用这一算法解决复杂的数据问题。
517 0
|
机器学习/深度学习 数据可视化 数据挖掘
机器学习中空间和时间自相关的分析:从理论基础到实践应用
空间和时间自相关是数据分析中的重要概念,揭示了现象在空间和时间维度上的相互依赖关系。本文探讨了这些概念的理论基础,并通过野火风险预测的实际案例,展示了如何利用随机森林模型捕捉时空依赖性,提高预测准确性。
1192 0
机器学习中空间和时间自相关的分析:从理论基础到实践应用
|
机器学习/深度学习 算法 数据挖掘
【机器学习】聚类算法中的距离度量有哪些及公式表示?
聚类算法中常用的距离度量方法及其数学表达式,包括欧式距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、余弦相似度等多种距离和相似度计算方式。
1664 1
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI操作报错合集之在ODPS的xxx_dev项目空间调用easyrec训练,需要访问yyy项目空间的OSS,出现报错,是什么导致的
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
算法 数据建模
平面中判断点在三角形内算法(重心法)
平面中判断点在三角形内算法(重心法)
294 0

热门文章

最新文章