1.0-0.9小数计算精度问题

简介: parseFloat((1.0-0.7).toFixed(10))toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。

parseFloat((1.0-0.7).toFixed(10))

toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。

浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。

所以比如 1.1,其程序实际上无法真正的表示 ‘1.1',而只能做到一定程度上的准确,这是无法避免的精度丢失:1.09999999999999999。

img_575bbbb8bfdadfe7b3085e77b50e3350.png
相关文章
|
3月前
|
存储 Python
整数和浮点数。
整数和浮点数。
30 7
|
编译器 C++
C++ 字符串转浮点数,包括整数、小数和科学记数法
C++ 字符串转浮点数,包括整数、小数和科学记数法
641 0
|
算法 测试技术 C++
基于C++实现的大整数计算
基于C++实现的大整数计算
160 0
基于C++实现的大整数计算
5.1.7_定点小数
计算机组成原理之定点小数
577 0
|
C语言
5.1.4_带符号整数的表示和运算_原反补
计算机组成原理之带符号整数的表示和运算_原反补
261 0
5.1.4_带符号整数的表示和运算_原反补
11:计算浮点数相除的余数
11:计算浮点数相除的余数
299 0
定点数与浮点数简单解释
定点数 定点数:小数的位置是固定不变的。定点数又包括定点整数和定点小数。 定点小数:小数点隐含固定在最高数据位的左边,整数位则用于表示符号位,用于表示纯小数。
237 0
定点数与浮点数简单解释
【3.整数与浮点数二分】
1.整数二分 >### 二分本质 >- 有单调性,一定可以二分 >- 二分的题目,不一定非要有单调性 >### 思路:分俩种情况,有俩种模板
115 0
【3.整数与浮点数二分】