double计算误差

看了视频，老师讲的这里我还是不太懂，5.6+7.8不是应该算出来的结果是13.4吗，为什么是13.399999999999999，这是因为什么原因产生的呢？遇到这种情况该如何办才能达到准确的结果呢？

爱问问题的小菜鸡 2022-01-15

源自：Java方法 4-1 方法重载

收起

1回答

好帮手慕小小 2022-01-16 11:47:03

同学你好，使用Java的double进行运算时，可能出现精度丢失的问题，总是在一个正确的结果左右，所以如果需要小数高进度运算时，建议使用BigDecimal。参考代码如下：

import java.math.BigDecimal;
 
public class Test {
    public static void main(String[] args) {
        BigDecimal numA = new BigDecimal(Double.toString(5.6));
        BigDecimal numB = new BigDecimal(Double.toString(7.8));
        BigDecimal bigDecimal = numA.add(numB);
        double result =bigDecimal.doubleValue();
        System.out.println(result);
    }
}

祝学习愉快~

收起回答

提问者爱问问题的小菜鸡 #1

那float变量在运算时是否也存在精度丢失的问题？

2022-01-16 17:45:19
好帮手慕小小回复提问者爱问问题的小菜鸡 #2

同学你好，float也是会有精度丢失问题的，需要小数高精度运算时，建议使用BigDecimal。
1
2
3
BigDecimal num1 = new BigDecimal(Float.toString(5.6F));
BigDecimal num2 = new BigDecimal(Float.toString(7.8F));
System.out.println(num1.add(num2));// 相加
祝学习愉快~

2022-01-16 18:26:00