1.0-0.9小数计算精度问题-阿里云开发者社区

开发者社区> 开发与运维> 正文
登录阅读全文

1.0-0.9小数计算精度问题

简介: parseFloat((1.0-0.7).toFixed(10)) toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。 浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。

parseFloat((1.0-0.7).toFixed(10))

toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。

浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。

所以比如 1.1,其程序实际上无法真正的表示 ‘1.1',而只能做到一定程度上的准确,这是无法避免的精度丢失:1.09999999999999999。

img_575bbbb8bfdadfe7b3085e77b50e3350.png

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
开发与运维
使用钉钉扫一扫加入圈子
+ 订阅

集结各类场景实战经验,助你开发运维畅行无忧

其他文章