C++ double变量的精度
使用如下语句输出
cout.setf(ios::fixed);
cout<cout<0.01;//此时输出是0.14，按照四舍五入此时应该输出的是0.15啊！！！调试变量观察14.50.01 double型的值为0.149999999999999999999999，但是如果直接出入保存到double型中是都不会有精度损失，只要一和double运算则0.145都会自动变为0.149999999999999，请问这种问题该如何解决？？？？
展开
收起
1
条回答
写回答
写回答
-
首先，计算机是二进制表示，这个你应该知道了，而每位都是一个2多少次幂，比如整数范围就是从2的0次方开始，而小数就是从2的-1次方开始，
然后把所有的结果加在一起来表示这个数。
如：5 二进制为101 因为2的2次方加上2的0次方
0.5 为 .1 为2的-1次方
而0.145 表示为
0.5 0.25 0.125 0.0625 0.03125 ……
0 0 1 0 0
这样计算加下去，得不到一个0.145这样正好相等的树，所有就变成了0.149999999……
而正常保留是舍弃的，你如果想要四舍五入简单做法是在精度的后边第一位加上5，然后在执行
如：
0.145 保留2位，可以加上0.005 得到0.150 取精度后得到0.152019-07-17 18:53:34赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
