开发者社区> 问答> 正文

进制的问题导致Java的double型运算结果显示有精度问题

下列表达式中,可以得到精确结果的是哪些?
A、double d1 = 3.0-2.6;
B、double d2 = 2.5*1.5;
C、double d3 = 3.0-2.5;
D、double d4 = 1.0-0.6;
E、double d5 = 4.015*100;
F、double d6 = 4.015*10;
实在是遇到这样的挫科的题目,我该怎么解?总不能写上一句这是由于进制转换的问题导致的。

展开
收起
蛮大人123 2016-06-06 16:32:17 2482 0
1 条回答
写回答
取消 提交回答
  • 我说我不帅他们就打我,还说我虚伪

    如果能够正常转换,那么它的值就是准确的,只要没操过它的精度,那么值就是准确的,如果操过了它的精度,计算机就会进行截取运算,所以了解这个问题就需要先了解十进制小数部分转二进制的规制,规制如下:
    十进制小数转换成二进制小数采用"乘2取整,顺序排列"法。具体做法是:用2乘十进制小数,可以得到积,将积的整数部分取出,再用2乘余下的小数部分,又得到一个积,再将积的整数部分取出,如此进行,直到积中的小数部分为零,或者达到所要求的精度为止。
    然后把取出的整数部分按顺序排列起来,先取的整数作为二进制小数的高位有效位,后取的整数作为低位有效位。
    0.425
    0.425x2=0.85
    0.85x2=1.7
    0.7x2=1.4
    0.4x2=0.8
    0.8x2=1.6
    0.6x2=1.2
    ....
    0.425=011011B
    不都是无限循环,如0.5=0.1B
    就会出现一些它们本身就不能转化为准确的数字,比如小数点后面是2的,这时候,就会直接截取,精度已经不对了,之后的值的精度肯定也不对。
    至于你想算出它们的值,就需要先了解float和double的精度,再获取这两个值截取或不用截取的二进制数据,再进行二进制运算,再进行二进制转十进制运算,最终得出值。

    2019-07-17 19:28:56
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Spring Cloud Alibaba - 重新定义 Java Cloud-Native 立即下载
The Reactive Cloud Native Arch 立即下载
JAVA开发手册1.5.0 立即下载