交叉熵（CrossEntropy）是常见的损失函数，本文详细推导一下它的梯度，面试大厂或者工程实践中都可能会用到。
前向传播
假设分类任务类别数是，隐层输出是维向量，标准的one-hot向量是，正确的类别是。那么交叉熵损失可以定义为：
其中，，是平滑参数。Softmax函数大家都很熟悉了，具体形式为：。
反向传播
下面分两种情况讨论：
Softmax梯度
回顾Softmax函数的形式：
“交叉熵”反向传播推导
2023-05-30
133
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
“交叉熵”反向传播推导
目录
相关文章
|
6月前
|
机器学习/深度学习
|
1月前
|
机器学习/深度学习
自然语言处理
|
4月前
|
机器学习/深度学习
|
6月前
|
机器学习/深度学习
JavaScript
Python
|
机器学习/深度学习
|
机器学习/深度学习
|
机器学习/深度学习
算法
|
机器学习/深度学习
损失函数：均方误和交叉熵，激活函数的作用
损失函数（loss function）或代价函数（cost function）是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。
187
1
1
|
机器学习/深度学习
人工智能
JavaScript
【Pytorch神经网络理论篇】 21 信息熵与互信息：联合熵+条件熵+交叉熵+相对熵/KL散度/信息散度+JS散度
对抗神经网络（如DIM模型）及图神经网络（如DGI模型）中，使用互信息来作为无监督方式提取特征的方法。
897
0
0
|
机器学习/深度学习
