double精度丢失问题

叁歲伎倆 2021-09-22 02:52 512阅读 0赞

# double精度丢失问题 #

从二进制角度考虑问题就会很简单了：把「0.1」转成二进制然后还原成十进制，就能看出问题。

*  这是二进制与十进制之间的碰撞
 *  这是机器与人们之间的差异
 *  这是思想与结果的碰撞
 *  理解之后一切都会变得合理……毕竟称之为**浮点数**

### 一、把 0.1 转成二进制表示 ###

> 我们知道 DEC(1) 就是 BIN(1)，但是 DEC(0.1) 怎么转换成二进制？

是的！用除法：

> 0.1 = 1 ÷ 10

很简单，二进制就是要算

> 1 ÷ 1010

我们回到小学的课堂，来列竖式吧：**（算了还是用计算器来的更快些……）**

0.000110011...
          /------------------
    1010 / 1 0000
        /    1010
           ------
              1100
              1010
              ----
                10000
                 1010
                -----
                  1100
                  1010
                  ----
                    10

这时候你一定会发现，除不尽，除出了一个无限循环小数：二进制的 0.0001100110011…

### 二、机器语言的舍入 ###

> 我们得把 0.0001100110011… 放进一个 double「双精度浮点数」里面，机器容量有限，**不可能存储无限循环小数，只能存储部分**

双精度浮点数能表示多少精度呢？查看文档会发现：

*  半精度（16bit） ： 11 位有效数字
 *  单精度（32bit） ： 24 位有效数字
 *  双精度（64bit） ： 53 位有效数字
 *  四精度（128bit）：113 位有效数字

好吧，双精度是 53 位有效数字

0.00011001100110011001100110011001100110011001100110011001  10011...

方便起见，我在第 53 个有效数字后面加了空格。**有点难数，使用编程打印的**

**十进制数我们可以四舍五入，二进制怎么办？**

*  精神是一样的：待处理部分有没有达到前一位的一半，达到就进位，没达到就舍去。（暂且当作 0 舍 1 入。）

那么我们的 0.1 在 double 中就是

0.00011001100110011001100110011001100110011001100110011001 10011...
    0.00011001100110011001100110011001100110011001100110011010

而 1.1 就是

1.0001100110011001100110011001100110011001100110011001 10011...
    1.0001100110011001100110011001100110011001100110011010

### 三、机器语言的加法 ###

这个很简单，**1.1 + 0.1 就是 1.2**, 但是让我们看看机器如何相加↓：

1.0001100110011001100110011001100110011001100110011010
    + 0.00011001100110011001100110011001100110011001100110011010
    ------------------------------------------------------------
      1.00110011001100110011001100110011001100110011001100111010

因为结果仍然是 double，需要再做一次保留 53 位有效数字和舍入：

1.0011001100110011001100110011001100110011001100110011 1010
    1.0011001100110011001100110011001100110011001100110100

### 四、二进制转十进制的偏差 ###

机器计算完成，机器需要转十进制给我们看

我们把最终结果转换回来：

1.0011001100110011001100110011001100110011001100110100

得到十进制的：

1.20000000000000018

一般的输出函数，在输出浮点数时，都会限制显示的有效数字，即会再做一次四舍五入。

\*\*PS：\*\*至于各个语言之间的差异，答案是可能会有，比如可能因为选择的舍入规则的不同可能导致的结果的不同；甚至有可能某个语言里的浮点数压根不是 IEEE 754 的浮点数，而是以字符串方式保存的，所以可能没有误差。

### Double的输出 ###

//使用BigDecimal
    @Test
    public void DoubleTest() { 
        double testDoubleVal = 1.23456789;
        BigDecimal bigDecimal = new BigDecimal(testDoubleVal);
        System.out.println(bigDecimal.setScale(3, BigDecimal.ROUND_HALF_UP));
        System.out.println(bigDecimal.setScale(4, BigDecimal.ROUND_HALF_UP));//不同的舍入规则
        System.out.println(bigDecimal.setScale(4, BigDecimal.ROUND_DOWN));  //不同的舍入规则
    }
    /* 运算结果： 1.235 1.2346 1.2345 */