c++ double float 数值比较

我会带着你远行 2022-03-31 10:35 281阅读 0赞

浮点数在内存中的存储机制和整型数不同，其有舍入误差，在计算机中用近似表示任意某个实数。具体的说，这个实数由一个整数或定点数（即尾数）乘以某个基数（计算机中通常是2）的整数次幂得到，这种表示方法类似于基数为10的科学记数法。  
所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。  
  
1、将字符串转换为float、double过程存在精度损失，只是float、double各自损失的精度不相同而已  
std::string str="8.2";  
float cc=atof(str.c\_str()); //cc的值为8.1999998  
  
std::string str="8.2";  
double cc=atof(str.c\_str()); //cc的值为8.1999999999999993  
  
2、将float、double转换为字符过程中可能存在精度损失，但是通过%.8lf可以规避  
（1）float小数点前后加起来有效数字只有6位。当给定的float有效数在6位以内转换为字符不会丢失精度，当有效位数大于6位就会存在精度丢失

//精度没有丢失  
char buf\[100\]=\{'\\0'\};  
float aa=8000.25;  
sprintf(buf,"%f",aa); //8000.250000  
  
//精度没有丢失  
char buf\[100\]=\{'\\0'\};  
float aa=8.00025;  
sprintf(buf,"%f",aa); buf = 8.000250  
  
//精度丢失，存在误差  
char buf\[100\]=\{'\\0'\};  
float aa=8000.251;  
sprintf(buf,"%f",aa); //8000.250977  
  
//精度丢失，存在误差 此时使用.8lf也无效  
char buf\[100\]=\{'\\0'\};  
float aa=8000.251;  
sprintf(buf,"%.8lf",aa); //8000.25097656  
  
(2)double小数前后加起来的有效数字只有16位，当给定的double有效数在16位以内转换为字符串不会丢失精度，当有效位数大于16位湖影公寓存在精度丢失  
  
存在误差  
char buf\[100\]=\{'\\0'\};  
double aa=121.437565871234012;  
sprintf(buf,"%.20lf",aa); //121.43756587123401000000  
  
//没有误差  
char buf\[100\]=\{'\\0'\};  
double aa=8000.256165;  
sprintf(buf,"%.8lf",aa);  
std::cout <<buf<<std::endl; //8000.25616500  
  
  
3、浮点数比较  
用"=="来比较两个double应该相等的类型，返回真值完全是不确定的。计算机对浮点数的进行计算的原理是只保证必要精度内正确即可。  
  
我们在判断浮点数相等时，推荐用范围来确定，若x在某一范围内，我们就认为相等，至于范围怎么定义，要看实际情况而已了，float,和double 各有不同  
所以const float EPSINON = 0.00001;  
if ((x >= - EPSINON) && (x <= EPSINON) 这样判断是可取的  
至于为什么取0.00001，可以自己按实际情况定义  
  
根据上面分析建议在系统开发过程中设计到字符转换建议采用double类型，精度设置为%.8lf即可，在比较浮点数十建议EPSINON = 0.00000001