EasyExcel读入数字类型数据时出现小数位增长现象

本文涉及的产品
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
简介: EasyExcel读入数字类型数据时出现小数位增长现象

背景

最近使用easyexcel时碰到一个这样的问题,读取excel时出现了小数点精度问题。例如,0.137这个值,使用easyexcel解析后得到的BigDecimal对象就变成了0.13700000000000001,5.1,变成5.0999999999999996。

原excel中一条数据,见下图

商品名称 金额(元)
Apple iPhone 14 Plus (A2888) 512GB 午夜色  9699.1

通过接口导入,打印出数据格式

解析到一条数据:{"goodsName":"Apple iPhone 14 Plus (A2888) 512GB 午夜色","price":9699.0999999999999996}

我尝试去查看了excel解压后的文件,发现这条数据在xml里存储的值就是9699.0999999999999996

当我在把实体类里把BigDecimal的字段修改成String类型后,读出来的数据就是期望的9699.1。

原因

查看easyexcel源码,其实easyexcel解析excel单元格的时候,会根据单元格格式选择不同的converter。在本例中,由于是数字类型单元格解析成BigDecimal类型字段,调用的就是BigDecimalNumberConverter 。这个Converter是这样的:

public class BigDecimalNumberConverter implements Converter<BigDecimal> {
    public BigDecimalNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return BigDecimal.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public BigDecimal convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return cellData.getNumberValue();
    }
    public CellData convertToExcelData(BigDecimal value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(value);
    }
}

supportJavaTypeKey方法指定该Converter转换的目标类型是BigDecimal,而easyexcel在讲excel单元格内容转换为BigDecimal时调用的就是convertToJavaData方法。

可以看到该方法内容很简单,就是取了CellData的NumberValue,这是个BigDecimal的对象,debug时会发现,执行到这里时取出来的就已经是9699.0999999999999996这个值了。

这没有问题,因为excel文件里存储的本来就是这个值,但是为什么转换成String类型就是9699.1呢?

数字类型单元格转换成String类型调用的是另外一个converter:StringNumberConverter,可以看到这个类的convertToJavaData就更复杂一些:

public class StringNumberConverter implements Converter<String> {
    public StringNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return String.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public String convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        if (contentProperty != null && contentProperty.getDateTimeFormatProperty() != null) {
            return DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), contentProperty.getDateTimeFormatProperty().getUse1904windowing(), (TimeZone)null), contentProperty.getDateTimeFormatProperty().getFormat());
        } else if (contentProperty != null && contentProperty.getNumberFormatProperty() != null) {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else if (cellData.getDataFormat() != null) {
            return DateUtil.isADateFormat(cellData.getDataFormat(), cellData.getDataFormatString()) ? DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), globalConfiguration.getUse1904windowing(), (TimeZone)null)) : NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        }
    }
    public CellData convertToExcelData(String value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(new BigDecimal(value));
    }
}

本例中的单元格格式为常规,所以调用的是NumberUtils的format方法,最后是通过ExcelGeneralNumberFormat类的format方法进行的处理。

在这个方法中,我们发现它将excel里解析出的值限制为10位小数,并且做了四舍五入的处理:

// Non-integers of non-scientific magnitude are formatted as "up to 11
// numeric characters, with the decimal point counting as a numeric
// character". We know there is a decimal point, so limit to 10 digits.
// https://support.microsoft.com/en-us/kb/65903
final double rounded = new BigDecimal(value).round(TO_10_SF).doubleValue();
return decimalFormat.format(rounded, toAppendTo, pos);

于是9699.0999999999999996经过处理后就变成了9699.1。

结尾

但是很多时候我们不想修改实体类中的字段类型,那么我们还可以通过修改excel的格式,但是注意excel这里有个坑。

在excel中明明将这一列设置成了文本格式,但是还会出现有些行导入成功,有些行仍然会出现上述情况。但是当我讲每个CELL单元格,依次设置为文本类型后又都可以了。

但是在要导入的excel里面只要点一下这个单元格,会发现左上角会出现一个小箭头,再导入就又正常了。

 

本篇文章如有帮助到您,请给「翎野君」点个赞,感谢您的支持。

目录
相关文章
|
1月前
|
存储 C++
看完就等于拿捏浮点数在内存中的储存了
看完就等于拿捏浮点数在内存中的储存了
45 2
看完就等于拿捏浮点数在内存中的储存了
|
3月前
|
存储 算法 程序员
极限挑战:40亿个非负整数中找到没有出现的数(bit数组)
大家好!我是小米,一名热衷于技术分享的29岁程序员。今天探讨的问题是在40亿个非负整数中找到未出现的数字。直接使用哈希表因内存限制而不可行。本文提出了一种解决方案——利用bit数组。通过标记出现过的数字,最终找出未被标记的位置所对应的数字即为答案。对于更严格的内存限制(如10MB),文章还介绍了分块处理的方法,先统计每个区间的数字数量,找到计数不足的区间后再精确处理。这种算法不仅展示了巧妙利用有限资源的能力,也为实际工程问题提供了解决思路。希望各位读者能从中受益,享受编程带来的乐趣!
61 15
|
6月前
求两个整数的较大值
两幅图片展示,无文字描述。第一张图链接源为:[结果](https://so.csdn.net/so/search?q=%E7%BB%93%E6%9E%9C&spm=1001.2101.3001.7020)。
35 1
求两个整数的较大值
|
6月前
|
算法
算法题 — 整数转二进制,查找其中1的数量
算法题 — 整数转二进制,查找其中1的数量
46 0
|
存储 数据库
TypeORM 实体存储数字并保留小数点后3位
在 TypeORM 中,可以使用 @Column 装饰器的 type 属性来定义实体中数字字段的数据类型,并且可以通过 scale 和 precision 属性来设置保留小数点后的位数。以下是一个示例:
318 0
|
移动开发 关系型数据库 atlas
空间转录组|数据读入,标准数据形式外,还有哪些&quot;天残地缺&quot;可以读取
空间转录组|数据读入,标准数据形式外,还有哪些&quot;天残地缺&quot;可以读取
1491 0
|
算法 Python
一日一技:如何统计一个数字的二进制值里面有多少个1
一日一技:如何统计一个数字的二进制值里面有多少个1
238 0
|
存储 Java
java 将小数拆分为两部分+浮点型精度丢失问题
java 将小数拆分为两部分+浮点型精度丢失问题
168 0
|
C++ iOS开发
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
|
机器学习/深度学习 算法 Java
四种方式统计二进制表示中 1 的个数
四种方式统计二进制表示中 1 的个数