内积空间的基本概念
- 定义2.1：设V 是实数域P 上的线性空间，如果对于V 中任意两个元素α ，β 都有一个实数( α , β ) 与它们对应，并且满足下面的四个条件，则( α , β )称为元素α ,β 的内积：
正交基与子空间的正交
在线性空间中可以找到一组基底，这组基底本身线性无关，且其他元素可以被它线性表达，在内积空间中，可以有进一步的结果，即可以找到标准正交基。
可以说任意一个n 维欧氏空间中都存在标准正交基。
- 施密特(Schmidt)正交化的方法求标准正交基：
正交
- 前面讨论的过渡矩阵：
正交补
点到子空间的距离与最小二乘法
- 现在来看最小二乘法的问题：
当X 的分量取遍所有值的时候，上面的表达式是：
的任意组合，所以：
所以最小二乘解是：
正规矩阵
如果把数域扩大到复数，则可以仿照实数空间内积的定义，把内积推广到复数，但是要考虑到复数的特性。
- 定义2.6：设V 是复数域C上的线性空间，如果对V 中的任意向量α , β ，都有一个复数α , β 与之对应，且满足如下条件，则( α , β ) 称为V 的内积。
这时V VV称为复内积空间或者酉空间，这里( β , α ) 是β , α \的共轭，条件4）是保证α ,α是实数，否则可能会有α ≠ 0 ，但是( α ⋅ α ) = 0,如α = ( 3 , 4 , 5 i )
我的微信公众号名称：深度学习与先进智能决策
微信公众号ID：MultiAgent1024
公众号介绍：主要研究分享深度学习、机器博弈、强化学习等相关内容！期待您的关注，欢迎一起学习交流进步！
