Double 与 Float 的值的比较问题分析

逃离我推掉我的手 2022-05-15 06:45 256阅读 0赞

首先看两个程序：

程序1：

#include<stdio.h>
    int main()
    {
        float x = 0.1;
        if (x == 0.1)
    	{
            printf("IF\n");
    	}
        else if (x == 0.1f)
    	{
            printf("ELSE IF\n");
    	}
        else
    	{
            printf("ELSE\n");
    	}
    	
    	return 0;
    }

程序2：

#include<stdio.h>
    int main()
    {
        float x = 0.5;
        if (x == 0.5)
    	{
            printf("IF\n");
    	}
        else if (x == 0.5f)
    	{
            printf("ELSE IF\n");
    	}
        else
    	{
            printf("ELSE\n");
    	}
    	
    	return 0;
    }

程序1输出是：ELSE IF， 而程序2,输出是：IF  
为什么呢？

这是因为double和float的精度不一样，计算机比较是转为二进制进行比较的，如果小数转换为二进制的时候是无限循环的话，那么就会出现对比值不一样，比如0.1，否则就可以比较float和double，结果值相等，比如0.5.

这就需要应用到小数转换为二进制的知识了，所谓的乘2取整法。

如0.1转换为二进制为：

0.1 \* 2 = 0.2   ----- 整数为0，故取该位为0

0.2 \* 2 = 0.4   ----- 整数为0，继续取0

0.4 \* 2 = 0.8   ----- 整数为零，取零

0.8 \* 2 = 1.6   ----- 整数为1，取1

0.6 \* 2 = 1.2   ----- 取1

0.2 \* 2 = 0.4   ----- 取零，和前面循环了。

故此0.1(base 10) == 0.00011 0011 0011...(0011为无限循环数位值)

这样的数取不同精度，那么肯定会导致其值不一样的了。

故此：(float)0.1 != double(0.1)

但是0.5(base 10) = 0.1(base 2)，没有无限循环数位

故此：(float)0.5 == double(0.5)

**备注：**

# 1 理论分析 #

## 1 .1 十进制转为二进制 ##

(1) 十进制整数转换为二进制整数  
十进制整数转换为二进制整数采用"除2取余，逆序排列"法。  
具体做法是：用2整除十进制整数，可以得到一个商和余数；再用2去除商，又会得到一个商和余数，如此进行，直到商为0时为止，然后把先得到的余数作为二进制数的低位有效位，后得到的余数作为二进制数的高位有效位，依次排列起来。

(2) 十进制小数转换成二进制小数  
十进制小数转换成二进制小数采用"乘2取整，顺序排列"法。  
具体做法是：用2乘十进制小数，可以得到积，将积的整数部分取出，再用2乘余下的小数部分，又得到一个积，再将积的整数部分取出，如此进行，直到积中的小数部分为零，此时0或1为二进制的最后一位。或者达到所要求的精度为止。

## 1.2 二进制转为十进制 ##

把二进制数首先写成加权系数展开式，然后按十进制加法规则求和。这种做法称为"按权相加"法。

# 2 实例分析 #

22.8125 转为 二进制, 再由二进制转为十进制

(1) 十进制小数转换二进制

整数和小数分别转换。  
整数除以2，商继续除以2，得到0为止，将余数逆序排列。  
22 / 2 11 余0  
11/2 5 余 1  
5 /2 2 余 1  
2 /2 1 余 0  
1 /2 0 余 1  
所以22的二进制是10110

小数乘以2，取整，小数部分继续乘以2，取整，得到小数部分0为止，将整数顺序排列。  
0.8125x2=1.625 取整1,小数部分是0.625  
0.625x2=1.25 取整1,小数部分是0.25  
0.25x2=0.5 取整0,小数部分是0.5  
0.5x2=1.0 取整1,小数部分是0，结束  
所以0.8125的二进制是0.1101  
十进制22.8125等于二进制10110.1101

(2) 二进制转为十进制

整数和小数分别转换。

10110

1 \* 2^4 + 0 \* 2^3 + 1 \* 2^2 + 1 \* 2^1 + 0 \* 2^0 = 16 + 4 + 2 = 22

1101

1 \* 2^-1 + 1 \* 2^-2 + 0 \* 2^-3 + 1 \* 2^-4 = 1/2 + 1/4 + 0 + 1/16 = 13/16 = 0.8125

22 + 0.8125 = 22.8125