BigDecimal传值精度计算问题

柔情只为你懂 2021-12-03 23:43 453阅读 0赞

在进行浮点数精度计算时，很容易就会出现得到数据不一致问题。

Java 语言支持两种基本的浮点类型： float 和 double ，以及与它们对应的包装类 Float 和 Double 。它们都依据 IEEE 754 标准，该标准用科学记数法以底数为 2 的小数来表示浮点数。

下面来看两段代码，及其计算结果：

使用 double 传参的时候会产生不可预期的结果，比如说 0.1 实际的值是 0.1000000000000000055511151231257827021181583404541015625，说白了，这还是精度的问题。（既然如此，为什么不废弃呢？）

import java.math.BigDecimal;
    
    public class T {
        public static void main(String[] args) {
            BigDecimal a = new BigDecimal(1);
            BigDecimal b = new BigDecimal(0.9);
            BigDecimal c = new BigDecimal(0.8);
            BigDecimal d = new BigDecimal(0.7);
            System.out.println(a.subtract(b));
            System.out.println(c.subtract(d));
        }
    }

![20190719101214289.png][]

看一下官方文档

BigDecimal(double val)

The results of this constructor can be somewhat unpredictable. One might assume that 
    writing new BigDecimal(0.1) in Java creates a BigDecimal which is exactly equal to 0.1 (an 
    unscaled value of 1, with a scale of 1), but it is actually equal to 
    0.1000000000000000055511151231257827021181583404541015625. This is because 0.1 cannot be 
    represented exactly as a double (or, for that matter, as a binary fraction of any finite 
    length). Thus, the value that is being passed in to the constructor is not exactly equal to 
    0.1, appearances notwithstanding.

使用字符串传参的时候会产生预期的结果，比如说 `new BigDecimal("0.1")` 的实际结果就是 0.1。

import java.math.BigDecimal;
    
    public class T {
        public static void main(String[] args) {
            BigDecimal a = new BigDecimal("1");
            BigDecimal b = new BigDecimal("0.9");
            BigDecimal c = new BigDecimal("0.8");
            BigDecimal d = new BigDecimal("0.7");
            System.out.println(a.subtract(b));
            System.out.println(c.subtract(d));
        }
    }

![20190719103424898.png][]

总结：如果必须将一个 double 作为参数传递给 BigDecimal 的话，建议传递该 double 值匹配的字符串值。

参考： [Java 代码界 3% 的王者？看我是如何解错这 5 道题的][Java _ 3_ _ 5]

[20190719101214289.png]: /images/20211203/cabd3c7c050f480191ad18096b55baf3.png
[20190719103424898.png]: /images/20211203/943def0bafda4b728618c796c60bd737.png
[Java _ 3_ _ 5]: https://blog.csdn.net/qing_gee/article/details/96151818