EasyExcel读入数字类型数据时出现小数位增长现象

简介: EasyExcel读入数字类型数据时出现小数位增长现象

背景

最近使用easyexcel时碰到一个这样的问题,读取excel时出现了小数点精度问题。例如,0.137这个值,使用easyexcel解析后得到的BigDecimal对象就变成了0.13700000000000001,5.1,变成5.0999999999999996。

原excel中一条数据,见下图

商品名称 金额(元)
Apple iPhone 14 Plus (A2888) 512GB 午夜色  9699.1

通过接口导入,打印出数据格式

解析到一条数据:{"goodsName":"Apple iPhone 14 Plus (A2888) 512GB 午夜色","price":9699.0999999999999996}

我尝试去查看了excel解压后的文件,发现这条数据在xml里存储的值就是9699.0999999999999996

当我在把实体类里把BigDecimal的字段修改成String类型后,读出来的数据就是期望的9699.1。

原因

查看easyexcel源码,其实easyexcel解析excel单元格的时候,会根据单元格格式选择不同的converter。在本例中,由于是数字类型单元格解析成BigDecimal类型字段,调用的就是BigDecimalNumberConverter 。这个Converter是这样的:

public class BigDecimalNumberConverter implements Converter<BigDecimal> {
    public BigDecimalNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return BigDecimal.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public BigDecimal convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return cellData.getNumberValue();
    }
    public CellData convertToExcelData(BigDecimal value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(value);
    }
}

supportJavaTypeKey方法指定该Converter转换的目标类型是BigDecimal,而easyexcel在讲excel单元格内容转换为BigDecimal时调用的就是convertToJavaData方法。

可以看到该方法内容很简单,就是取了CellData的NumberValue,这是个BigDecimal的对象,debug时会发现,执行到这里时取出来的就已经是9699.0999999999999996这个值了。

这没有问题,因为excel文件里存储的本来就是这个值,但是为什么转换成String类型就是9699.1呢?

数字类型单元格转换成String类型调用的是另外一个converter:StringNumberConverter,可以看到这个类的convertToJavaData就更复杂一些:

public class StringNumberConverter implements Converter<String> {
    public StringNumberConverter() {
    }
    public Class supportJavaTypeKey() {
        return String.class;
    }
    public CellDataTypeEnum supportExcelTypeKey() {
        return CellDataTypeEnum.NUMBER;
    }
    public String convertToJavaData(CellData cellData, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        if (contentProperty != null && contentProperty.getDateTimeFormatProperty() != null) {
            return DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), contentProperty.getDateTimeFormatProperty().getUse1904windowing(), (TimeZone)null), contentProperty.getDateTimeFormatProperty().getFormat());
        } else if (contentProperty != null && contentProperty.getNumberFormatProperty() != null) {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else if (cellData.getDataFormat() != null) {
            return DateUtil.isADateFormat(cellData.getDataFormat(), cellData.getDataFormatString()) ? DateUtils.format(DateUtil.getJavaDate(cellData.getNumberValue().doubleValue(), globalConfiguration.getUse1904windowing(), (TimeZone)null)) : NumberUtils.format(cellData.getNumberValue(), contentProperty);
        } else {
            return NumberUtils.format(cellData.getNumberValue(), contentProperty);
        }
    }
    public CellData convertToExcelData(String value, ExcelContentProperty contentProperty, GlobalConfiguration globalConfiguration) {
        return new CellData(new BigDecimal(value));
    }
}

本例中的单元格格式为常规,所以调用的是NumberUtils的format方法,最后是通过ExcelGeneralNumberFormat类的format方法进行的处理。

在这个方法中,我们发现它将excel里解析出的值限制为10位小数,并且做了四舍五入的处理:

// Non-integers of non-scientific magnitude are formatted as "up to 11
// numeric characters, with the decimal point counting as a numeric
// character". We know there is a decimal point, so limit to 10 digits.
// https://support.microsoft.com/en-us/kb/65903
final double rounded = new BigDecimal(value).round(TO_10_SF).doubleValue();
return decimalFormat.format(rounded, toAppendTo, pos);

于是9699.0999999999999996经过处理后就变成了9699.1。

结尾

但是很多时候我们不想修改实体类中的字段类型,那么我们还可以通过修改excel的格式,但是注意excel这里有个坑。

在excel中明明将这一列设置成了文本格式,但是还会出现有些行导入成功,有些行仍然会出现上述情况。但是当我讲每个CELL单元格,依次设置为文本类型后又都可以了。

但是在要导入的excel里面只要点一下这个单元格,会发现左上角会出现一个小箭头,再导入就又正常了。

 

本篇文章如有帮助到您,请给「翎野君」点个赞,感谢您的支持。

目录
相关文章
|
3天前
18.把1~100存到一维数组a[100]中,并输出。要求每行输出10个,数据所占宽度相同
18.把1~100存到一维数组a[100]中,并输出。要求每行输出10个,数据所占宽度相同
16 3
|
10月前
|
存储
学C的第二十三天【继续深度剖析数据在内存中的存储:3. 浮点型在内存中的存储(重点);练习:1. 有序序列判断;2. 获得月份天数(多组输入);3. 使用指针打印数组内容;4. 使用指针使字符串逆序】-2
(4). 取出内存中的 指数E(三种情况):E全为1 指数E 是通过 真实值+中间值 算出来的,如果E全是1,(32位系统)说明E的真实值是 128,指数是128说明这个值是非常大的。 这时,如果 有效数字M 全为0,表示 ±无穷大(正负取决于符号位s)
|
10月前
|
前端开发 Java
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
120 0
|
算法 Python
一日一技:如何统计一个数字的二进制值里面有多少个1
一日一技:如何统计一个数字的二进制值里面有多少个1
175 0
|
存储 Java
java 将小数拆分为两部分+浮点型精度丢失问题
java 将小数拆分为两部分+浮点型精度丢失问题
139 0
|
C++ iOS开发
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
【C++之标准类型数据的格式输出1】输入一批数值,要求保留3位小数,且上下行小数点对齐
|
Java BI
Java BigDecimal 在不设置数精度的情况下,去掉后面的小数点多余的0,有时候就是有这样
BigDecimal 在不设置数精度的情况下,去掉后面的小数点多余的0,有时候就是有这样
243 0
|
存储 数据库
长整数在插入较短的列时会被转换,但不会被截断为什么?公式是什么?
长整数在插入较短的列时会被转换,但不会被截断为什么?公式是什么?