Java中float类型精度问题

简介:

 

今天发现了一个小的问题,在网上找了说的不多,在这记录下来方便自己和比人解决自己的问题吧。

代码片段

1 float  unit  =  Double.valueOf(ActionUtils.getBillingTransformUnit(request));//取出换算单位1000.0
2                 float    svt  =  ((curveSegment.getEndVal() + 1 )) / unit;//加0.001
3                 segmentForm.setStartValTemp(String.valueOf(svt));

 

我们的计算最小单位是厘,页面上的startValTemp是元,所以必须为三位小数,当curveSegment.getEndVal()取出的是一千万内的整数时,加一计算最后在页面上都能显示增加了一厘。当为两千万时,String.valueOf(svt)就变成了2位小数了,从而丢失了加上的1。

 

引用我在mantis上的原始介绍“程序中用的数字类型Float 单位是厘 填20000 后转为20000000 后加1等于20000001 除以1000.0后的值在本地化字符串时为20000.0 出现精度丢失问题 (精度问题,float精度为7--8位,8位的情况是第一位是1 当是2时进位后面的精度丢失?)”

 故问题就出在使用的类型精度不满足,属于选择类型问题。使用double类型解决问题

 

1      double  unit  =  Double.valueOf(ActionUtils.getBillingTransformUnit(request));
2                  double  svt  =  ((curveSegment.getEndVal() + 1 )) / unit;
3                 segmentForm.setStartValTemp(String.valueOf(svt));

 

 本文转自茄子_2008博客园博客,原文链接:http://www.cnblogs.com/xd502djj/archive/2009/06/10/1500546.html,如需转载请自行联系原作者。


目录
相关文章
|
16天前
|
存储 Java 开发者
Java 中 Set 类型的使用方法
【10月更文挑战第30天】Java中的`Set`类型提供了丰富的操作方法来处理不重复的元素集合,开发者可以根据具体的需求选择合适的`Set`实现类,并灵活运用各种方法来实现对集合的操作和处理。
|
16天前
|
Java 编译器 开发者
Java异常处理的最佳实践,涵盖理解异常类体系、选择合适的异常类型、提供详细异常信息、合理使用try-catch和finally语句、使用try-with-resources、记录异常信息等方面
本文探讨了Java异常处理的最佳实践,涵盖理解异常类体系、选择合适的异常类型、提供详细异常信息、合理使用try-catch和finally语句、使用try-with-resources、记录异常信息等方面,帮助开发者提高代码质量和程序的健壮性。
34 2
|
1月前
|
Java 编译器
Java“返回类型为 void 的方法不能返回一个值”解决
在 Java 中,如果一个方法的返回类型被声明为 void,那么该方法不应该包含返回值的语句。如果尝试从这样的方法中返回一个值,编译器将报错。解决办法是移除返回值语句或更改方法的返回类型。
|
1月前
|
设计模式 Java
Java“不能转换的类型”解决
在Java编程中,“不能转换的类型”错误通常出现在尝试将一个对象强制转换为不兼容的类型时。解决此问题的方法包括确保类型间存在继承关系、使用泛型或适当的设计模式来避免不安全的类型转换。
|
1月前
|
Java
Java 中锁的主要类型
【10月更文挑战第10天】
|
1月前
|
安全 Java
Java“不兼容类型” 错误怎么查找解决
在 Java 中遇到“不兼容类型”错误时,首先理解错误信息,它表明试图将一种类型赋给不兼容的类型。检查代码中类型不匹配的赋值、方法调用参数类型不匹配、表达式类型不兼容及泛型类型不匹配等问题。解决方法包括进行类型转换、修改代码逻辑、检查方法参数和返回类型以及处理泛型类型不匹配。通过这些步骤,可以有效解决“不兼容类型”错误,确保代码类型兼容性良好。
|
2月前
|
存储 Java Windows
java基础(9)数据类型中的char类型以及涉及到的转义字符
Java中的char类型可以存储一个中文字符,因为它占用两个字节。转义字符允许在代码中使用特殊字符,例如`\n`表示换行,`\t`表示制表符,`\\`表示反斜杠,`\'`表示单引号,`\"`表示双引号。可以使用`\u`后跟Unicode编码来表示特定的字符。
59 2
java基础(9)数据类型中的char类型以及涉及到的转义字符
|
1月前
|
Java 程序员 编译器
Java中的异常类型
Java中的异常类型
23 3
|
1月前
|
Java 开发者
Java“类 Y 中的方法 X 不能应用于给定类型”解决
在Java中遇到“类Y中的方法X无法应用于给定类型”的错误时,通常是因为方法调用时的参数类型与定义不符。解决此问题需检查方法签名,确保传递的参数类型正确无误,或使用显式类型转换以匹配方法所需的参数类型。这种错误提示帮助开发者及时修正类型不匹配的问题。
|
1月前
|
Java 程序员 编译器
Java中的异常类型
Java中的异常类型
24 3