C++100-C++拓展002-float精度问题
摘要
本系列为C++学习系列,会介绍C++基础语法,基础算法与数据结构的相关内容。本文为C++拓展内容,包括float精度为6-7的问题,并提供相关案例练习。
在线练习:
C++float精度问题
参考:http://c.biancheng.net/view/2330.html
C++浮点float基本格式
计算机中浮点数采用的是IEEE 754标准。浮点数分为单精度浮点数(32位)和双精度浮点数(64位)。浮点数的基本格式如下:
sign:符号位,0表示正,1表示负
exponent:阶码,浮点数的幂次。一般采用移码表示。
fraction:浮点数的小数部分
主要是这两种变量占用的内存数不同,float 型4个字节,32位;double型8个字节,64位。它们在内存中是按科学计数法来存储的,而且float和double的精度是由尾数的位数来决定的:
①对于float 型浮点数来说,
符号位占1位,
阶码(指数位)占8位,无符号8位表示0-255,去除全0和1后是1-254,减去偏移量127,就是-126-127。2的-126次幂是1.175E-38,2的(127)次幂=3.4E38。数字介于 ±3.4E-38 和 ±3.4E38 之间。
尾数位23位,则有2^23 = 8388608,一共七位有效数字(能保证的为6位),即float的精度为6-7位有效数字。
②类似的对于double 型浮点数来说:
符号位占1位,
阶码(指数位)占11位,2的11次幂=2048,去除去除全0和1后是1-2047,减去偏移量1023,就是-1022和1024,为了简化,采用正负都为1024次幂。2的-1022次幂对应2.225E-308,2的1024次幂对应1.7976931348623157E308
尾数位52位,2^52= 4503599627370496,共16位,即double型数的精度为15~16位。
C++查看数据范围
#include <iostream> #include <climits> #include <cfloat> using namespace std; int main() { cout << "int 最大值:" << INT_MAX << '\n'; cout << "int 最小值:" << INT_MIN << '\n'; cout << "float 最大值:" << FLT_MAX << '\n'; cout << "float 最小值:" << FLT_MIN << '\n'; cout << "double 最大值:" << DBL_MAX << '\n'; cout << "double 最小值:" << DBL_MIN << '\n'; cout << "long 最大值:" << LONG_MAX << '\n'; cout << "long 最小值:" << LONG_MIN << '\n'; cout << "long long 最大值:" << LONG_LONG_MAX << '\n'; cout << "long long 最小值:" << LONG_LONG_MIN << '\n'; cout << "unsigned long long 最大值:" << ULONG_LONG_MAX << '\n'; }
输出:
在线练习:
总结
本系列为C++学习系列,会介绍C++基础语法,基础算法与数据结构的相关内容。本文为C++拓展内容,包括float,double精度,并提供相关案例练习。