最近在做一个交易机器人,处理精度问题,发现:
Float.parseFloat(String s);
BigDecimal.floatValue();
如上两个方法都会产生精度丢失问题。那么浮点数只能用string才能精确表示吗。float和double类型不就多余了?
计算机存储任何数字都是基于二进制,那么浮点数怎么存储成二进制?这里Java遵循了IEEE754标准,大致过程如下
十进制数字转化成二进制表示形式,通过将整数部分除2取余、小数部分乘2取整来完成转换
0.12 => 0.00011110101110000101000111101...
// 发现了么? 十进制的有穷小数,在二进制中,变成了无穷
// 只有 小数部分 * 2^n == 1 的情况,用二进制表示才是有穷的
转换成科学计数法(二进制下),将小数点移动到第一个1的右边
0.00011110101110000101000111101... => 1.1110101110000101000111101... * 2 ^ -4
结果显而易见了,转换成IEEE754形式
1 8位 23位 存不下了
0 01111011 11101011100001010001111 (01...)
全选复制放进笔记
1 . 1 1 1 0 . ... . 1 (?...)
1 2^0 + 1 2^-1 + 1 2^-2 + 1 2^-3 + 0 2^-1 + ... + 1 2^-23 + ???
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。