DL之simpleNet:利用自定义的simpleNet(设好权重)对新样本进行预测、评估、输出梯度值

简介: DL之simpleNet:利用自定义的simpleNet(设好权重)对新样本进行预测、评估、输出梯度值

输出结果


输出权重参数: [[-0.94465146 -1.22617291  0.89064915]

[-0.36625531  1.57482914  0.82170746]]

输出预测: [-0.89642065  0.68164248  1.27392621]

最大值的索引: 2

loss: 0.5111458955952319

求出梯度值:

[[ 0.04107652  0.19903878 -0.2401153 ]

[ 0.06161477  0.29855818 -0.36017295]]


核心代码


class simpleNet:

   def __init__(self):

       self.W = np.random.randn(2,3)  #用高斯分布进行初始化

   def predict(self, x):

       return np.dot(x, self.W)

   def loss(self, x, t):

       z = self.predict(x)

       y = softmax(z)

       loss = cross_entropy_error(y, t)

       return loss

net = simpleNet()

x = np.array([0.6, 0.9])

p = net.predict(x)

t= np.array([0, 0, 1])          

print('loss:',net.loss(x, t))

   

f = lambda w: net.loss(x, t)

dW = numerical_gradient(f, net.W)

print('求出梯度值:','\n',dW)


相关文章
|
算法 计算机视觉 网络架构
YOLOv7 | 模型结构与正负样本分配解析
YOLOv7 | 模型结构与正负样本分配解析
1854 0
YOLOv7 | 模型结构与正负样本分配解析
|
8月前
|
人工智能 物联网
PiSSA :将模型原始权重进行奇异值分解的一种新的微调方法
我们开始看4月的新论文了,这是来自北京大学人工智能研究所、北京大学智能科学与技术学院的研究人员发布的Principal Singular Values and Singular Vectors Adaptation(PiSSA)方法。
118 3
|
8月前
|
机器学习/深度学习 算法 数据可视化
Python用KNN(K-近邻)回归、分类、异常值检测预测房价、最优K值选取、误差评估可视化
Python用KNN(K-近邻)回归、分类、异常值检测预测房价、最优K值选取、误差评估可视化
|
8月前
|
机器学习/深度学习 TensorFlow 定位技术
神经网络学习率指数衰减ExponentialDecay策略的参数含义与使用方法详解
神经网络学习率指数衰减ExponentialDecay策略的参数含义与使用方法详解
135 1
|
机器学习/深度学习 数据可视化 计算机视觉
0参数量 + 0训练,3D点云分析方法Point-NN刷新多项SOTA(1)
0参数量 + 0训练,3D点云分析方法Point-NN刷新多项SOTA
142 0
|
机器学习/深度学习 数据可视化 数据挖掘
0参数量 + 0训练,3D点云分析方法Point-NN刷新多项SOTA(2)
0参数量 + 0训练,3D点云分析方法Point-NN刷新多项SOTA
305 0
|
算法 数据可视化 Linux
核密度估计和非参数回归
核密度估计和非参数回归
426 0
核密度估计和非参数回归
|
机器学习/深度学习 自动驾驶 算法
权重衰减== L2正则化?(一)
权重衰减== L2正则化?(一)
155 0
权重衰减== L2正则化?(一)
|
机器学习/深度学习 算法
权重衰减== L2正则化?(二)
权重衰减== L2正则化?(二)
194 0
权重衰减== L2正则化?(二)
|
机器学习/深度学习
想要神经网络输出分类的概率值?应该这样写代码
想要神经网络输出分类的概率值?应该这样写代码