交叉熵（CrossEntropy）是常见的损失函数，本文详细推导一下它的梯度，面试大厂或者工程实践中都可能会用到。
前向传播
假设分类任务类别数是，隐层输出是维向量，标准的one-hot向量是，正确的类别是。那么交叉熵损失可以定义为：
其中，，是平滑参数。Softmax函数大家都很熟悉了，具体形式为：。
反向传播
下面分两种情况讨论：
Softmax梯度
回顾Softmax函数的形式：
“交叉熵”反向传播推导
2023-05-30
143
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
“交叉熵”反向传播推导
目录
相关文章
|
7月前
|
机器学习/深度学习
|
2月前
|
机器学习/深度学习
自然语言处理
|
5月前
|
机器学习/深度学习
|
7月前
|
机器学习/深度学习
JavaScript
Python
|
机器学习/深度学习
|
机器学习/深度学习
损失函数：均方误和交叉熵，激活函数的作用
损失函数（loss function）或代价函数（cost function）是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。
200
1
1
|
机器学习/深度学习
算法
|
机器学习/深度学习
|
机器学习/深度学习
人工智能
JavaScript
【Pytorch神经网络理论篇】 21 信息熵与互信息：联合熵+条件熵+交叉熵+相对熵/KL散度/信息散度+JS散度
对抗神经网络（如DIM模型）及图神经网络（如DGI模型）中，使用互信息来作为无监督方式提取特征的方法。
934
0
0
|
机器学习/深度学习
热门文章
最新文章
1
四大触点，教你从“用户视角”构建数据分析体系
2
《Stata统计分析与应用（第2版）》一3.4 图形的保存、合并及修改
3
Spring-boot+Dubbo应用启停源码分析
4
分享一些OpenStack的qcow2格式实例镜像
5
基于区块链的机器学习模型创建方案
6
微信web开发者工具无法打开的六种解决方法
7
RocketMq-Request-Reply消息
8
[译] 构建世界上最快的会议网站
9
" "(双引号)与 ' '(单引号)的区别
10
自定义高效支持点击监听的RecyclerView
1
AI在电子商务中的个性化推荐系统：驱动用户体验升级
29
2
基于AI的网络流量分析：构建智能化运维体系
26
3
鸿蒙登录页面好看的样式设计-HarmonyOS应用开发实战与ArkTS代码解析【HarmonyOS 5.0（Next）】
25
4
HarmonyOS 5.0 （Next）应用开发实战：使用ArkTS构建开箱即用的登录页面【HarmonyOS 5.0（Next）】
30
5
开箱即用的个人主页页面开发实战—基于HarmonyOS 5.0 （Next）和ArkTS的实现【HarmonyOS 5.0（Next）】
32
6
《Java 在 3D 视觉与重建领域：开启无限可能之旅》
22
7
《Java 情感分析：前沿技术与方法全解析》
26
8
《GraalVM：Java AI 应用性能与启动速度的优化利器》
22
9
《探索 Apache Spark MLlib 与 Java 结合的卓越之道》
19
10
云产品评测
21