当向计算机中存入一个float类型的数值2.2 后,在从计算机中读出输出,这时2.2 的值已经发生了变化(转)

简介: problom : 'f1' value hava been changed when output. reason : the binary repersentation of 2.2f is : 00110011001100110011.

 problom :

'f1' value hava been changed when output.

reason :

the binary repersentation of 2.2f is : 00110011001100110011...

(is an infinite recurring decimal)

but computer only store 24 byte , so discard the remaining number , lead to the value has been change .

 

public class TestFloat {

    public static void main(String[] args) {
        float f1 = 2.2f;
        System.out.printf("before conversion float1 :  %10.9f \n", f1);
        double d1 = (double) f1;
        System.out.printf("after conversion double1 : %10.9f \n", d1);
        float f2 = 2.25f;
        System.out.printf("before conversion float2 :  %10.9f\n", f2);
        double d2 = (double) f2;
        System.out.printf("after conversion double2 : %10.9f \n", d2);
    }
}
before conversion float1 :  2.200000048 
after conversion double1 : 2.200000048 
before conversion float2 :  2.250000000
after conversion double2 : 2.250000000 

 


从上面我们可以看出,向计算机中存入float类型的数值2.2 后,在输出会出现数值发生了变化,在注释中我已经说明了问题和导致这个问题的原因,由于我的英语有待提高,所以在这再重复一遍:

问题:

当向计算机中存入一个float类型的数值2.2 后,在从计算机中读出输出,这时2.2 的值已经发生了变化。

原因:

要将浮点数值2.2存入计算机中,要进过下面几个步骤:

--》机器将2.2 转换成二进制形式。整数位2即是10,小数部分就不同了,根据乘2取整法计算0.2的二进制表示你会发现它是一个无限循环数--0011 0011 0011……,所以2.2 的二进制表示为: 10.0011 0011 0011 …… 。

--》将2.2的表示转换成科学计数法  即 : 1.0 0011 0011 0011 …… X 2^1

--》存储 , 浮点数计算机中分配的存储容量为32个字节(不知道是不是所有的语言或者所有的计算机都是这样,待以后更正),分配情况为:

      符号位     1

      指数位     8

      尾数位    23

  但是在科学计数法下,尾数的首数值一定是1,所以第一位不存储,这样就能为float增加一位精度,为24位。2.2 的存储如下:

      符号位   : 0(表示正)

      指数位   :采用移位存储,元数据为127 ,所以该部分应该存储 127 + 1 ,即128 : 1000 0000

      尾数位   : 因为尾数位只有24位,所以要截取无限循环小数部分的前24位,注意 : 截取造成了数值的改变。

根据尾数位的存储便可发现,计算机中2.2 的存储已经发生了变化,而且存储的值比2.2 要大,主要是存储的小数部分要比0.2 要大。具体原因可以算一下。因为小数部分转换成十进制每位要乘以10^(-X),当小数部分的位数减小,那么相应的X要减小,由于是X前面有个 - 号,所以值就变大了。

上面提供的是Java代码,同样在C语言中也是这样:

1 #include <stdio.h>
2 int main(){
3     float f1 = 2.2 ;
4     printf("%10.9f",f1);
5     return 0;
6 }

http://www.cnblogs.com/caiyao/p/3661627.html

 

相关文章
|
11月前
【深入理解计算机系统】int 不是整数 | float 不是实数 | 内存引用错误的例子 | 学习笔记
【深入理解计算机系统】int 不是整数 | float 不是实数 | 内存引用错误的例子 | 学习笔记
66 0
|
5月前
|
存储 数据挖掘 C语言
c语言中float的作用类型
c语言中float的作用类型
119 0
c语言中float的作用类型
C/C++ 关于double和float两种类型的区别
C/C++ 关于double和float两种类型的区别
C/C++ 关于double和float两种类型的区别
|
5月前
|
安全 Python
Python系列(16)—— string类型转float类型
Python系列(16)—— string类型转float类型
|
JSON 数据格式 Python
python:将二维array of float32类型的数据转为float类型
最近在处理wrf数据时,需要将数据转换为json各式,但是json支持的数据类型与python有一些差别,对于一些例如风场的变量往往是float32的格式,而json文件支持的是float的格式,所以需要将其进行转换。
python:将二维array of float32类型的数据转为float类型
|
移动开发 JavaScript 前端开发
JQuery float 类型计算和控制
JQuery float 类型计算和控制
|
存储 C语言
⭐️ 关键字深度剖析 ⭐️第五章(深入C语言三种类型(float/bool/指针)与“零值“的比较)(续)
浮点数在内存中存储,并不想我们想的是完整存储的 在十进制转化成为二进制,是有可能有精度损失的
⭐️ 关键字深度剖析 ⭐️第五章(深入C语言三种类型(float/bool/指针)与“零值“的比较)(续)
|
存储 编译器 C语言
⭐️ 关键字深度剖析 ⭐️第五章(深入C语言三种类型(float/bool/指针)与“零值“的比较)
浮点数在内存中存储,并不想我们想的是完整存储的 在十进制转化成为二进制,是有可能有精度损失的
⭐️ 关键字深度剖析 ⭐️第五章(深入C语言三种类型(float/bool/指针)与“零值“的比较)
|
Java Android开发
Android/Java判断字符串String是否为float浮点数或double类型
Android/Java判断字符串String是否为float浮点数或double类型 Android的TextUtils的isDigitsOnly方法检测整型数据没问题,但是检测浮点和double类型可能不会返回期望的...
5152 0