How can I handle precision error with float in Java?(如何在Java中使用Float处理精度错误?)
问题描述
我想知道在Java中修复精度错误的最佳方法是什么。正如您在以下示例中看到的,存在精度错误:
class FloatTest
{
public static void main(String[] args)
{
Float number1 = 1.89f;
for(int i = 11; i < 800; i*=2)
{
System.out.println("loop value: " + i);
System.out.println(i*number1);
System.out.println("");
}
}
}
显示结果为:
另外,如果有人能解释为什么它只从11开始,并且每次值都加倍。我认为所有其他值(或至少其中许多值)都显示了正确的结果。循环值:11
20.789999
循环值:22
41.579998
循环值:44
83.159996
循环值:88
166.31999
循环值:176
332.63998
循环值:352
665.27997
循环值:704
1330.5599
此类问题过去一直让我头疼,我通常使用数字格式化程序或将其放入字符串中。
编辑:正如大家所说,我可以使用双精度,但尝试之后,似乎1.89作为双精度乘792仍然会输出错误(输出是1496.8799999999999)。
我想我会尝试其他解决方案,如BigDecimal
推荐答案
如果您确实关心精度,则应该使用BigDecimal
https://docs.oracle.com/javase/8/docs/api/java/math/BigDecimal.html
https://docs.oracle.com/en/java/javase/11/docs/api/java.base/java/math/BigDecimal.html
这篇关于如何在Java中使用Float处理精度错误?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
本文标题为:如何在Java中使用Float处理精度错误?
基础教程推荐
- doFilter()是在servlet的工作完成之前还是之后执行的? 2022-01-01
- 将 Windows 证书导入 Java 2022-01-01
- 在java中使用xpath和selenium解析HTML表格数据 2022-01-01
- JPA惰性列表上的流 2022-01-01
- 如何在相机中应用自定义滤镜 [Surfaceview 预览]. 2022-01-01
- 控制台应用程序中的 Java 键盘输入解析 2022-01-01
- 将 double 转换为 Int,向下舍入 2022-01-01
- Java ECDSAwithSHA256 签名长度不一致 2022-01-01
- Maven:无效的目标版本:10 2022-01-01
- 在springboot中如何给mybatis加拦截器 2023-04-29
