一个很经典的小知识点，仅作为笔记：
不要用 a == b的办法判断两个浮点数是否相等，包括不要用 a== 0的办法判断浮点数 a是否等于0。因为浮点数是有误差的。
应该用 a-b > -eps && a-b < eps ，即a和b的差的绝对值小于某个很小值 eps的办法来判断a和b是否相等。
如果结果要保留小数点后面n位，那么 eps可以取 10的-(n+1)次方。
具体实现可以看：http://www.cnblogs.com/huashanqingzhu/p/3462636.html
浮点数比较
2017-07-22
1023
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《
阿里云开发者社区用户服务协议》和
《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写
侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介：
一个很经典的小知识点，仅作为笔记：不要用 a == b的办法判断两个浮点数是否相等，包括不要用 a== 0的办法判断浮点数 a是否等于0。因为浮点数是有误差的。应该用 a-b > -eps && a-b < eps ，即a和b的差的绝对值小于某个很小值 eps的办法来判断a和b是否相等。
目录
相关文章
|
7月前
|
C语言
|
1月前
|
JavaScript
前端开发
Java
|
3月前
|
存储
Python
|
4月前
|
存储
|
7月前
浮点数中的零
Julia 提供三种浮点类型：Float16（半精度，16位），Float32（单精度，32位）和 Float64（双精度，64位）。浮点数包含正零和负零，两者相等但二进制表示不同，如 `bitstring` 函数所示：0.0 为 "000...000"，而 -0.0 为 "100...000"。
66
2
2
|
存储
|
存储
Java
详解浮点数
1.什么是浮点数
在计算机系统的发展过程中，曾经提出过多种方法表示实数，但是到为止使用最广泛的是浮点表示法。浮点表示法，即用浮点数来表示实数，所谓浮点数，意思是小数点的位置不是固定的，是可以浮动的。浮点数采用IEEE 754这个标准作为统一的标准。该标准中严格定义个浮点数的表示格式、转化过程。
下面简单介绍一下IEEE 754标准。
IEEE 754的核心就是用科学计数法来表示实数，然后将表示结果转为二进制的方式，方便计算机存储。
364
0
0
|
编译器
C++
|
存储
热门文章
最新文章
1
跟阿里云技术专家阙寒一起深度了解视频直播CDN技术
2
流批一体的近实时数仓的思考与设计
3
丰富、连接、待集成—MaxCompute 生态再出发
4
securecrt克隆会话与sshd 的 MaxSessions
5
Flink 消息聚合处理方案
6
VMware安装的相关文章
7
forever让nodejs应用后台执行
8
路边的烧烤摊杂感
9
size_type、size_t、differentce_type以及ptrdiff_t
10
一些链接
1
《人工智能知识图谱构建与应用的最新突破与成果》
35
2
《零样本学习：突破瓶颈，开启智能新征程》
25
3
《知识表示：开启人工智能学习与推理的密钥》
27
4
《信息传播：人工智能助力驱散虚假信息阴霾》
25
5
《多模态融合：开启智能新时代的钥匙》
36
6
自学记录鸿蒙 API 13：实现人脸检测 Core Vision Face Detector
65
7
阿里云先知安全沙龙(武汉站) ——AI赋能软件漏洞检测，机遇, 挑战与展望
475
8
在线使用：Poe Ai网页版_pc版_poe ai中文官网入口
21
9
java项目中jar启动执行日志报错：no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
36
10
新手指南：人工智能poe ai 怎么用？国内使用poe记住这个方法就够了！
34