Float累加，精度引起误差符号位指数位尾数位

小灰灰 2022-09-14 01:59 194阅读 0赞

程序用float累加订单的金额，得出来的数跟在数据库查出的总数不一致。后面换成Double

下面内容转自[浮点数float累加误差分析与解决\_zhrh0096的专栏-CSDN博客][float_zhrh0096_-CSDN] ![watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAQUFBODIx_size_20_color_FFFFFF_t_70_g_se_x_16][]

由上图可知(摘在\[2\])， 浮点数由： 符号位 + 指数位 + 尾数部分， 三部分组成。由于机器中都是由二进制存储的，那么一个10进制的小数如何表示成二进制。例如: 8.25转成二进制为1000.01, 这是因为 1000.01 = 1\*2^3 + 0\*2^2 + 0\*2^1 + 0\*2^0 + 0\*2^-1 + 2\*2^-2 = 1000.01.

（2）float的有效位数是6-7位，这是为什么呢？因为位数部分只有23位，所以最小的精度为1\*2^-23 在10^-6和10^-7之间，接近10^-7, \[3\]中也有解释  
那么为什么float累加会产生误差呢，主要原因在于两个浮点数累加的过程。  
2. 两个浮点数相加的过程  
两浮点数X，Y进行加减运算时，必须按以下几步执行（可参考 \[4\] 中插图）：  
（1）对阶，使两数的小数点位置对齐，小的阶码向大的阶码看齐。  
（2）尾数求和，将对阶后的两尾数按定点加减运算规则求和(差)。  
（3）规格化，为增加有效数字的位数，提高运算精度，必须将求和(差)后的尾数规格化。  
（4）舍入，为提高精度，要考虑尾数右移时丢失的数值位。  
（5）判断结果，即判断结果是否溢出。  
关键就在与对阶这一步骤，由于float的有效位数只有7位有效数字，如果一个大数和一个小数相加时，会产生很大的误差，因为尾数得截掉好多位。例如：

123 + 0.00023456 = 1.23\*10^2 + 0.000002 \* 10^2 = 123.0002那么此时就会产生0.00003456的误差，如果累加多次，则误差就会进一步加大。

Float 存储结构的解释

转自：[Java中float/double取值范围与精度\_a327369238的专栏-CSDN博客][Java_float_double_a327369238_-CSDN]

[float_zhrh0096_-CSDN]: https://blog.csdn.net/zhrh0096/article/details/38589067
[watermark_type_ZHJvaWRzYW5zZmFsbGJhY2s_shadow_50_text_Q1NETiBAQUFBODIx_size_20_color_FFFFFF_t_70_g_se_x_16]: /images/20220828/8add6c0cfed1419fa5c88eea57e0ec39.png
[Java_float_double_a327369238_-CSDN]: https://blog.csdn.net/a327369238/article/details/52354811/?utm_term=java%E4%B8%ADfloat%E6%8C%87%E6%95%B0%E4%BD%8D&utm_medium=distribute.pc_aggpage_search_result.none-task-blog-2~all~sobaiduweb~default-2-52354811&spm=3001.4430