【Java处理小数运算】0.1024-0.1等于多少

梦里梦外; 2024-04-01 09:14 52阅读 0赞

### 谨以此篇献给辛勤工作（moyu）的1024。 ###

![在这里插入图片描述][24b4f7c22efd463f94d8c4330f6f282e.jpeg_pic_center]

## 0.1024问题 ##

又到了，一年一度的1024程序员佳节，众所周知1024的二进制是，等一下让程序跑一会…

System.out.println(new BigInteger("1024", 10).toString(2));

对，是`10000000000`。那么`0.1024`的二进制是多少呢？

System.out.println(1024 - 1);
    System.out.println(0.1024 -0.1);
    System.out.println(0.9 - 0.8);

以上三个输出结果是多少呢？

1023 当然是1023啦，小傻瓜
    0.0023999999999999994
    0.09999999999999998

好了，老程序员请不要疑惑，新入坑的1024们请张大你的嘴巴。  
![在这里插入图片描述][8bc81ffe27b344ce94b21ccd9ec87690.png]

## 原因 ##

> 运算过程中计算机会用浮点数表示小数，导致精度丢失出现以上问题。

**浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。**

**在Java中，double是双精度，64位，浮点数，默认是0.0d。float是单精度，32位，浮点数，默认是0.0f；**

32位单精度二进制 = [1个符号位] [8个阶码位] [23个尾数位]
    64位单精度二进制 = [1个符号位] [11个阶码位] [52个尾数位]
    小数 = [正负符号位]  [整数部分] . [小数部分]

小数转换成二进制

十进制0.9 = 二进制1100 1100 1100 1100 1100 1100 其中1100循环
      计算过程：  0.9 x 2 = 1.8取整得1 取上次结果的小数部分乘以2
                      0.8 x 2 = 1.6取整得1  取1.6的小数部分即0.6乘以2
    
                      0.6 x 2 = 1.2取整得1  取1.2的小数部分即0.2乘以2
    
                      0.2 x 2 = 0.4取整得0  取0.4的小数部分0.4乘以2
    
                      0.4 x 2 = 0.8取整得0  取上次结果的小数部分乘以2
    
                      0.8 x 2 = 1.6取整得1
    
                      0.6 x 2 = 1.2取整得1
    
                               ...循环

当到达一定值自动开始使用科学计数法，并保留相关精度的有效数字，所以结果是个近似数,并且指数为整数。在十进制中小数有些是无法完整用二进制表示的。所以只能用有限位来表示，从而在存储时可能就会有误差。  
![在这里插入图片描述][8e771d1eae0548108074bafd733c0570.png]

## 解决 ##

> Java在java.math包中提供的API类BigDecimal，用来对超过16位有效位的数进行精确的运算。

**float和double只能用来做科学计算或者是工程计算，在商业计算中要用java.math.BigDecimal。**  
BigDecimal所创建的是对象，必须调用其相对应的方法才能进行数学运算。方法中的参数也必须是BigDecimal的对象。

示例：

BigDecimal bigDecimal1 = new BigDecimal("0.1024");
    BigDecimal bigDecimal2 = new BigDecimal("0.1");
    //0.1024 - 0.1
    System.out.println(bigDecimal1.subtract(bigDecimal2));
    //保留小数X位
    System.out.println(bigDecimal1.setScale(2, BigDecimal.ROUND_DOWN));

结果：

0.0024
    0.10

注：BigDecimal(double) 不推荐使用

BigDecimal bigDecimal1 = new BigDecimal(0.1024);
    BigDecimal bigDecimal2 = new BigDecimal(0.1);
    //0.1024 - 0.1
    System.out.println(bigDecimal1.subtract(bigDecimal2));

结果：

0.00239999999999999935607064571740920655429363250732421875

![在这里插入图片描述][01d8fd25b59f4bf694d8e653a9522da2.png]  
**源码中也提到此构造函数的结果可能有些不可预测。可以使用String构造函数是完全可预测的。**

**舍入模式**

ROUND_UP       		//向远离0的方向舍入
    ROUND_DOWN     		//向零方向舍入
    ROUND_CEILING  		//向正无穷方向舍入
    ROUND_FLOOR    		//向负无穷方向舍入
    ROUND_HALF_UP    	//四舍五入
    ROUND_HALF_DOWN    //向最近的一边舍入，如果两边（的距离）是相等,向下舍入, 例如1.85 保留一位小数结果为1.8
    ROUND_HALF_EVEN    //向最近的一边舍入，如果两边是相等,保留位数是奇数，使用ROUND_HALF_UP，偶数，使用ROUND_HALF_DOWN
    ROUND_UNNECESSARY  //计算结果是精确的，不需要舍入模式

![在这里插入图片描述][5e1b731011d04f1b8b5bb34319048090.png]

点赞 收藏 关注  
据说，世上只有两种人：一种是懂二进制的，一种是不懂二进制。

[24b4f7c22efd463f94d8c4330f6f282e.jpeg_pic_center]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/b4ff97b46718402d9da71e4fcdd7eefe.jpeg
[8bc81ffe27b344ce94b21ccd9ec87690.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/fd968dcb3bd34a43a077997311f803d4.png
[8e771d1eae0548108074bafd733c0570.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/cf19c5d98154468fafdf994ee972441d.png
[01d8fd25b59f4bf694d8e653a9522da2.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/4fc1e503d4f34403abcddfea90771408.png
[5e1b731011d04f1b8b5bb34319048090.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/04/01/e41d7513fccc43dea6b512f12fa03633.png