【计组】32位浮点数的表示范围以及如何解决精度缺失

简介: 【计组】32位浮点数的表示范围以及如何解决精度缺失

1 浮点数的定义


提及浮点数,脑中必然会联想到定点数。所以首先我们看下两者的定义,一探究竟。


在计算机中,数据有两种表达方式:定点数和浮点数,注意,这仅仅是数的两种表达方式,而不是两种数。


1、定点数:

定点数指小数点在数中的位置是固定不变的,通常有定点整数和定点小数。在对小数点位置作出选择之后,运算中的所有数均应统一为定点整数或定点小数,在运算中不再考虑小数问题。

(1)定义:数据中小数点位置固定不变的数

(2)种类:定点整数

(3)小数点在符号位与有效位之间。

注:定点数受字长的限制,超出范围会有溢出。


2、浮点数:

浮点数中小数点的位置是不固定的,用阶码和尾数来表示。通常尾数为纯小数,阶码为整数,尾数和阶码均为带符号数。尾数的符号表示数的正负;阶码的符号则表明小数点的实际位置。

(1)形式:N=M×2E

(2)M:尾数

(3)E:阶码

(4)在计算机中M和E表示形式为

阶码 尾数符号 尾数

将其与数学中的科学记数法进行比较。

注:其浮点数的精度由尾数决定,数的表示范围由阶码决定。


2 为什么要使用浮点数?


定点数的表示范围固定、有限。比如使用8位十进制来表示一个整数。

  • 最大:999999999
  • 最小:000000000


如果我们想要表示更大的一个数,便无从下手。所以数学中我们一般采用科学计数法来进行简化表示。


在计算机里,我们也可以用一样的办法,用科学计数法来表示实数。浮点数的科学计数法的表示,有一个 IEEE 的标准,它定义了两个基本的格式。一个是用 32 比特表示单精度的浮点数,也就是我们常常说的 float 或者 float32 类型。另外一个是用 64 比特表示双精度的浮点数,也就是我们平时说的 double 或者 float64 类型。双精度类型和单精度类型差不多,这里,我们来看单精度类型,双精度你自然也就明白了。

image.png


3 32位浮点数表示范围


image.png


关于最小数与最大数的表示,第一次学到这部分时,有些不理解。


最大数举例

image.png

注:理解的关键点在于尾数以及对应2进制指数转为十进制表示。


4 浮点数的精度缺失


image.png

public class FloatPrecision {
  public static void main(String[] args) {
    float a = 20000000.0f;
    float b = 1.0f;
    float c = a + b;
    System.out.println("c is " + c);
    float d = c - a;
    System.out.println("d is " + d);
  }
}


对应的输出结果就是:

c is 2.0E7
d is 0.0


应对精度丢失,我们可以使用Kahan Summation算法,令结果更为精确。

目录
相关文章
|
6月前
|
编译器 C++
C++从遗忘到入门问题之C++中的浮点数类型问题如何解决
C++从遗忘到入门问题之C++中的浮点数类型问题如何解决
|
8月前
LabVIEW为什么浮点数会丢失精度
LabVIEW为什么浮点数会丢失精度
74 2
|
8月前
|
机器学习/深度学习 存储
matlab使用分位数随机森林(QRF)回归树检测异常值
matlab使用分位数随机森林(QRF)回归树检测异常值
|
存储 算法
算法小白的心得笔记:比较小数点后五位,而不会受到浮点数精度问题的影响。
std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl; return 1;
47 0
|
前端开发 Java
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
152 0
|
存储 C语言
C语言四舍五入计算方法(包含各种精度)
C语言四舍五入计算方法(包含各种精度)
1051 0
|
Python
一日一技:为什么浮点数在计算机中可能不准确?
一日一技:为什么浮点数在计算机中可能不准确?
90 0
输出十进制“08”等其他数值,报错无效的八进制数字,换个角度,三种方法解决问题
很显然,我们自己的语言与计算机有差别,我们想法是08,09,就是十进制数前加一个零,这是一个我们自定的格式,但计算机听不懂人类语言,就默认把0+某个数看成了八进制我们知道,八进制不可能出现8以上的数字,所以写程序时就有了下面这种报错:那我们赋值、输入时,无法表达出“我们认为”的这种所谓的十进制格式时,就应该换个角度去实现。.........
输出十进制“08”等其他数值,报错无效的八进制数字,换个角度,三种方法解决问题
|
算法
每日算法刷题Day1-隐式转换与精度丢失
⭐每日算法系列文章旨在精选重点与易错的算法题,总结常见的算法思路与可能出现的错误,与笔者另一系列文章有所区别,并不是以知识点的形式提升算法能力,而是以实战习题的形式理解算法,使用算法。
124 0
|
算法 搜索推荐
漫画算法:找出缺失的整数
题目:一个无序数组里有99个不重复正整数,范围从1到100,唯独缺少一个整数。如何找出这个缺失的整数?
148 0
漫画算法:找出缺失的整数