交叉熵（CrossEntropy）是常见的损失函数，本文详细推导一下它的梯度，面试大厂或者工程实践中都可能会用到。
前向传播
假设分类任务类别数是，隐层输出是维向量，标准的one-hot向量是，正确的类别是。那么交叉熵损失可以定义为：
其中，，是平滑参数。Softmax函数大家都很熟悉了，具体形式为：。
反向传播
下面分两种情况讨论：
Softmax梯度
回顾Softmax函数的形式：
“交叉熵”反向传播推导
2023-05-30
75
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
“交叉熵”反向传播推导
目录
相关文章
|
2月前
|
机器学习/深度学习
|
8月前
|
机器学习/深度学习
|
12月前
|
机器学习/深度学习
|
12月前
|
机器学习/深度学习
算法
|
12月前
|
机器学习/深度学习
人工智能
JavaScript
【Pytorch神经网络理论篇】 21 信息熵与互信息：联合熵+条件熵+交叉熵+相对熵/KL散度/信息散度+JS散度
对抗神经网络（如DIM模型）及图神经网络（如DGI模型）中，使用互信息来作为无监督方式提取特征的方法。
480
0
0
|
机器学习/深度学习
数据挖掘
KL散度和交叉熵的对比介绍
KL散度（Kullback-Leibler Divergence）和交叉熵（Cross Entropy）是在机器学习中广泛使用的概念。这两者都用于比较两个概率分布之间的相似性，但在一些方面，它们也有所不同。本文将对KL散度和交叉熵的详细解释和比较。
384
0
0
|
机器学习/深度学习
|
机器学习/深度学习
损失函数：均方误和交叉熵，激活函数的作用
损失函数（loss function）或代价函数（cost function）是将随机事件或其有关随机变量的取值映射为非负实数以表示该随机事件的“风险”或“损失”的函数。
148
1
1
|
机器学习/深度学习
人工智能
数据可视化
热门文章
最新文章
1
解决关于Windows Defender Antivirus Service自启造成运行python程序时，Windows的cpu和内存占用过高问题
2
订票系统不再瘫痪 阿里云确认与12306合作
3
2022年了！你有几种获取URL参数的方法？
4
基于Tablestore的一站式物联网存储解决方案-场景篇
5
使用 Notepad++ 编辑 .java 文件时的相关配置
6
烂泥：IIS主机头的理解与应用
7
安装SQLSERVER2000时出现以前的某个程序安装已在安装计算机上创建挂起的文件操作
8
android 官方文档中的一些错误收集
9
Git SSH Key 生成步骤
10
iReport中求和的问题
1
【C言专栏】C 语言结构体的应用与实践
18
2
【C 言专栏】C 语言指针的深度解析
19
3
【专栏：HTML与CSS前端技术趋势篇】HTML与CSS在PWA（Progressive Web Apps）中的应用
18
4
【专栏：HTML与CSS前端技术趋势篇】前端框架（React/Vue/Angular）与HTML/CSS的结合使用
17
5
Docker部署Traefik结合内网穿透远程访问Dashboard界面
23
6
【专栏：HTML 与 CSS 前端技术趋势篇】Web 性能优化：CSS 与 HTML 的未来趋势
12
7
探索自动化测试工具Selenium Grid的高效集成策略
11
8
深入理解PHP中的命名空间
13
9
【专栏：HTML与CSS前端技术趋势篇】渐进式增强与优雅降级在前端开发中的实践
10
10
【专栏：HTML与CSS前端技术趋势篇】网页设计中的CSS Grid与Flexbox之争
11