标准化：Normalization vs. 归一化：Standardization
2020-10-03
816
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
关于标准化和归一化的概念，经常容易弄混淆，下面给出相关概念的公式。
目录
相关文章
|
8月前
|
数据采集
机器学习/深度学习
资源调度
|
3月前
|
数据采集
机器学习/深度学习
算法
|
4月前
|
数据采集
定位技术
计算机视觉
|
4月前
|
机器学习/深度学习
实际应用场景下Tanh和Sigmoid哪个更常用
在实际应用中，Tanh和Sigmoid函数的选择受多种因素影响。Sigmoid函数常用于二分类问题的输出层，因其输出范围在(0, 1)内，适合表示概率；但在隐藏层中较少使用，因为它会导致梯度消失和非零中心化问题。Tanh函数输出范围在(-1, 1)，以0为中心，适用于隐藏层，有助于加快收敛速度，但也存在梯度消失问题。随着深度学习技术的发展，ReLU及其变体因计算效率高和梯度消失问题较轻而逐渐成为主流选择。因此，选择激活函数需综合考虑任务需求和网络结构特点。
130
2
2
|
5月前
|
机器学习/深度学习
|
6月前
|
机器学习/深度学习
神经网络可能不再需要激活函数？Layer Normalization也具有非线性表达！
【7月更文挑战第14天】研究表明，层归一化（LayerNorm）可能具备非线性表达能力，挑战了神经网络对激活函数的依赖。在LN-Net结构中，仅使用线性层与LayerNorm就能实现复杂分类，其VC维度下界证明了非线性表达。尽管如此，是否能完全替代激活函数及如何有效利用这一特性仍需更多研究。[arXiv:2406.01255]
74
5
5
|
机器学习/深度学习
资源调度
算法
特征工程：归一化与标准化
样本特征由于来源以及度量单位不同，它们的尺度（Scale），或者说是取值范围有可能差异很大。如果一个机器学习算法在缩放全部或者部分特征后不影响它的学习和预测，我们就称该算法具有尺度不变性（Scale Invariance）。神经网络从理论上应该具有尺度不变性，可以通过参数的调整来适应不同特征的尺度。
176
0
0
|
数据采集
机器学习/深度学习
数据挖掘
机器学习数据预处理——归一化（Normalization）和标准化（standardlization）
昨天进行一场答辩，被评委老师问起来归一化的概念，一时间紧张没有想起来，后来复盘回忆，感觉还是自己的理解不够深刻，才导致关键时刻掉链子，没有想起。所以特此整理一下，以供加深印象。
1793
0
0
|
机器学习/深度学习
数据采集
算法
|
机器学习/深度学习
算法
计算机视觉
热门文章
最新文章
1
非侵入式AOP监控之——AspectJ使用
2
2020云栖大会，云效分论坛不容错过的四大亮点指引
3
Qwen2-Audio开源，让VoiceChat更流畅！
4
yolov7开源代码讲解--训练代码
5
殷拓联手红星美凯龙收购软装家具企业“墙尚”40%股份
6
jQuery清空文本框的值
7
物联网芯片引巨头鱼贯而入 专利之争主导未来
8
Mysql总结_02_mysql数据库忘记密码时如何修改
9
【静默安装】configToolAllCommands响应文件问题
10
struts2: 通过流输出实现exce导出
1
开放、兼容的数据建设与治理平台——瓴羊Dataphin“进化论”
118
2
瓴羊Dataphin：AI驱动的数据治理——千里之行，始于标准
45
3
Java快速入门之数组、方法
115
4
网安快速入门之Windows命令
44
5
os-copilot安装_配置_功能测试全集
124
6
阿里面试：5000qps访问一个500ms的接口，如何设计线程池的核心线程数、最大线程数？ 需要多少台机器？
122
7
html+js+css实现的建筑方块立体数字时钟源码
49
8
跑腿小程序系统源码
50
9
深入剖析Transformer架构中的多头注意力机制
599
10
基于springboot+thymeleaf+Redis仿知乎网站问答项目源码
48