java 和 python 都存在着这样的问题,3*0.1 不是等于 0.3,而是等于 0.30000000000000004。
换个思维,如果有这么一个判断,3*0.1==0.3,这样的结果就是 False。
如果当我们做比较精密的计算比较时,一定要把尾差问题处理好,微小的差距错误可能导致整个项目的崩溃!!!
一般的话我们保留常用的 8 位或几位小数,就可以解决此类问题。
喜欢的点个赞❤吧!
java 和 python 都存在着这样的问题,3*0.1 不是等于 0.3,而是等于 0.30000000000000004。
换个思维,如果有这么一个判断,3*0.1==0.3,这样的结果就是 False。
如果当我们做比较精密的计算比较时,一定要把尾差问题处理好,微小的差距错误可能导致整个项目的崩溃!!!
一般的话我们保留常用的 8 位或几位小数,就可以解决此类问题。
喜欢的点个赞❤吧!