Java--float浮点数类型精度问题

Bertha 。 2021-11-16 16:02 373阅读 0赞

## 浮点数为什么不精准？ ##

参考链接：[https://blog.csdn.net/renwotao2009/article/details/51637163][https_blog.csdn.net_renwotao2009_article_details_51637163]

我们在计算机中写的十进制小数，只有 0 和 1 的计算机要怎么处理？

我们来试一试如何表达十进制的 0.2 吧。

0.01 = 1/4 = 0.25 ,太大

0.001 =1/8 = 0.125 , 又太小

0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了

0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了

0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大

0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错

0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875   
已经很逼近了， 就这样吧。

这就是为什么二进制无法准确表达十进制小数。

我们知道像byte、short、int、long整型类型的数据，他们存储的时候就是整数转化为二进制存储的，是多少就是多少，拿byte类型举例：一个byte类型的数据占一字节（1B）即八位，所以的它的范围就是：-2^7~2^7-1

而浮点数类型float，它占4个字节（4B）即32位，按理说它的取值范围应该是：-2^31~2^31-1，但是它真正的取值范围却约等于：-3.4E38~3.4E38,接下来我们就要研究一下浮点数类型在计算机中是怎么存储的。

拿 0.09f 为例：

long l = Float.floatToRawIntBits(0.09f);
    System.out.println(long.toBinaryString(l));

输出结果：

111101101110000101000111101100

我们在它的前面补 0 ，补足32位，按照 1 符号位，8 阶码位，23 尾数位分开。

0 01111011 01110000101000111101100

你可以看到其实它分为了三段：

*  第一段代表了符号(s) : 0 正数， 1 负数 ， 其实更准确的表达是 (-1) ^0
 *  第二段是阶码(e)：01111011 　，对应的10进制是　123
 *  第三段是尾数(M)

你看到了尾数和阶码，就会明白这其实是所谓的科学计数法:

(-1)^s \* M \* 2^e

但是把数代进去会发现：

(-1)^0 \* 01110000101000111101100 \* 2^123

这显然要比 0.09f 要大的很多

这是因为浮点数遵循的是IEEE754 表示法， 我们刚才的s(符号) 是对的，但是 e(阶码)和 M（尾数）需要变换：

对于阶码e ， 一共有8位， 这是个有符号数， 特别是按照IEEE754 规范， 如果不是0或者255， 那就需要减去一个叫**偏置量**的值，对于float 是127

所以 E = e - 127 = 123-127 = -4

对于尾数M ，如果阶码不是0或者255， 他其实**隐藏了一个小数点左边的一个 1** （节省空间，充分压榨每一个bit啊）。   
即 M = 1.01110000101000111101100

现在写出来就是:   
1.01110000101000111101100 \* 2^-4 （二进制的运算就是小数点往前移 4 位）  
=0.000101110000101000111101100   
= 1/16 + 1/64 + 1/128+ 1/256 + ….   
= 0.0900000035762786865234375

你看这就是0.09的内部表示， 很明显他比0.09更大一些， 是不精确的！

我们再拿一个比较大的数举例子，24625125f ：

float fl = 24625125f;

输出结果：

2.4625124E7

最后一位 5 竟然变成了 4？！

按照float遵循的IEEE754表示法，我们先输出一下它的二进制（补全32位）表示：

0 10010111 01110111101111111110010

同理按照上面的步骤再计算一次：

E = e - 127 = 151 - 127 = 24

M = 1.01110111101111111110010

计算：

1.01110111101111111110010 \* 2^24

=1011101111011111111100100

=2^24+2^22+2^21+2^20+ ....

=24,625,124‬

这就是存储到计算机中的二进制再转换为十进制的时候，会丧失精度原因。

这样我们在用float处理金融方面的问题，或者需要特别高精度的时候就不能使用float、double浮点数类型了。

[https_blog.csdn.net_renwotao2009_article_details_51637163]: https://blog.csdn.net/renwotao2009/article/details/51637163

Java--float浮点数类型精度问题

发表评论取消回复

还没有评论，来说两句吧...

相关阅读

相关 Java浮点数运算精度问题示例

相关 Java float浮点数精度丢失问题

相关单精度浮点数和双精度浮点数_浮点数和双精度数之间的区别

相关 Java浮点数精度控制

相关浮点数精度问题处理

相关浮点数输入精度问题

相关 C++ Primer 学习笔记：浮点数精度问题

相关 JS浮点数精度缺失问题

相关 Java--float浮点数类型精度问题

相关 JavaScript 浮点数运算的精度问题