将迭代次数问题几何化的一个计算例子

简介: 神经网络调参,设置迭代次数

( A, B )---3302---( 1, 0 )( 0, 1 )

做一个二分类网络让输入只有3个节点,每个训练集里有两张图片,让B的训练集全为0,排列组合A,观察迭代次数平均值的变化。共完成了64组,由于对称性只有12组不同的迭代次数。
1.jpg

如这6组,由于对称性他们的迭代次数算作相同。

其余各组为
2.jpg
3.jpg

假设0*0决定了空间的形状,而A是在这个空间的分布,如果有一个几何体可以体现集合A-B的所有对称性,那这个几何体就应该具有与集合A-B相同的性质。

将训练集A中的6个点对应为内接于球的等边三棱柱的上下3条边。通过计算质心的办法去拟合迭代次数
4.jpg

设边的质量为1,长度为1。6条边的质心为,

5.jpg

第一组让A中的1对应为ab边,这个球的圆心在(0.5,-0.2887,0.5),半径为0.7638.边ab在重力的作用下只有一个稳定态,位于最下端,此时ab边的质心高为=半径-(ab的质心到圆心的距离)=0.1865.
6.jpg

第二组的两个点因为在同一行,对应为边fa,fb。把边fa和fb看作一个整体,在重力的作用下也只有一个稳定态。用同样的办法计算两条边的质心的高得到fa,fb质心的高度为0.2434.

用同样的方法计算所有其他各组边的组合,在重力作用下稳定态的质心高,得到
7.jpg
8.jpg

这12组数据中有3组数值不对25-00,36-00,42-00,如果先不考虑这3组则得到,比77-00大的部分迭代次数与质心的高成反比, 比77-00小的迭代次数与质心的高成正比。

目录
相关文章
|
1月前
|
编解码 算法 数据可视化
lintsampler:高效从任意概率分布生成随机样本的新方法
在实际应用中,从复杂概率密度函数(PDF)中抽取随机样本的需求非常普遍,涉及统计估计、蒙特卡洛模拟和物理仿真等领域。`lintsampler` 是一个纯 Python 库,旨在高效地从任意概率分布中生成随机样本。它通过线性插值采样算法,简化了复杂分布的采样过程,提供了比传统方法如 MCMC 和拒绝采样更简便和高效的解决方案。`lintsampler` 的设计目标是让用户能够轻松生成高质量的样本,而无需复杂的参数调整。
24 1
lintsampler:高效从任意概率分布生成随机样本的新方法
|
5月前
|
C语言
循环迭代判断\丢番图
循环迭代判断\丢番图
27 2
|
存储 算法 PyTorch
pytorch 给定概率分布的张量,如何利用这个概率进行重复\不重复采样?
在 PyTorch 中,可以使用 torch.distributions.Categorical 来基于给定的概率分布进行采样。
927 0
|
11月前
|
算法 测试技术 C#
C++算法: 最大化数组末位元素的最少操作次数
C++算法: 最大化数组末位元素的最少操作次数
算法训练Day27|39. 组合总和● 40.组合总和II● 131.分割回文串
算法训练Day27|39. 组合总和● 40.组合总和II● 131.分割回文串
|
算法 搜索推荐 流计算
基于上下文的推荐 -- 包括时间衰减算法和位置推荐算法(代码实现)
基于上下文的推荐 -- 包括时间衰减算法和位置推荐算法(代码实现)
319 0
|
人工智能 算法 BI
基于参考辐射源/定标的校正算法(一)
一种基于场景的非均匀校正算法,补充一下更加简单,容易工程化实现的基于参考辐射源的校正算法,也叫基于定标的校正算法。
183 0
基于参考辐射源/定标的校正算法(一)
|
算法
基于参考辐射源/定标的校正算法(四)
基于曲线拟合的定标算法
125 0
基于参考辐射源/定标的校正算法(四)
|
算法
基于参考辐射源/定标的校正算法(三)
只有探测器的响应满足线性响应的条件下,两点定标校正算法才能取得较好的效果。而在实际情况下,探测器单元的响应通常呈非线性,随着入射辐照度范围的加大,探测器响应的线性度往往会变差。此时,若采用两点法进行校正必然会引入线性近似误差。
113 0
基于参考辐射源/定标的校正算法(三)
|
算法
基于参考辐射源/定标的校正算法(二)
两点定标算法较一点定标在效果上有了较大的提高,并且依然有着较低的算法复杂度。因此,其在红外探测器的工程生产中被大量使用。两点定标算法同一点定标算法的原理基本相同,只是通过两个定标点来计算校正参数。
193 0
基于参考辐射源/定标的校正算法(二)