C语言的数值溢出问题(中)

一时失言乱红尘 2022-11-11 14:56 235阅读 0赞

浮点数的数值溢出问题:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70][]

\[注\]整型数据的表示范围是连续的, 而浮点型数据的表示范围并不是连续的(严格来说): 这是因为浮点型数据在内存中以阶码(决定了数据的表示范围)+尾数(决定了表示精度)的形式存储.

\[注\]当下溢出现象发生时, 系统会将结果处理成机器0(因为这个数已经小到足够接近0, 且无法用浮点数进行表示).

数值溢出的危害：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 1][]

解决对策:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 2][]

从小范围数据到大范围数据：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 3][]

从高精度数据向低精度数据转换时, 会损失什么信息?

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 4][]

数值精度损失举例：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 5][]

问题：浮点数在内存中是如何存储的呢?

浮点数在内存中是以阶码(决定浮点数的表示范围)+尾数(决定浮点数的表示精度)的形式存储的.

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 6][]

IEEE754规定的浮点数标准格式：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 7][]

\[注\]在IEEE754规定的格式下, float类型可精确表示6~7位数据, double类型可精确表示16位数据.

精度损失分析实例：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 8][]

问题：为什么长整型的数据不能用单精度浮点型数据精确保存?

由于浮点型数据在内存中以阶码+尾数的形式存储, 而尾数所占的位数决定了浮点数的精度, 虽然长整型数据和单精度浮点型数据在内存中都占4个字节, 但是单精度浮点型数据的4个字节并没有全部用来存储尾数, 其中有部分位用来存储阶码, 因此单精度浮点型数据的尾数在内存中所占的位数要小于长整型数据在内存中所占的位数. 因此将长整型数据123456789赋值给单精度浮点型变量后, 就会损失长整型数据第七位以后的数据精度.

问题：为什么浮点数的输出结果也不准确呢?

(输出c)在输出双精度实型数据时, 我们发现只有数据的前十六位是准确的, 这是因为双精度实型能精确表示的数据位数只有16位, 因此第十六位之后的数据是不准确的.

(输出b)在输出单精度实型数据时, 我们发现只有数据的前七位是准确的, 这是因为单精度实型能精确表示的数据位数只有7位, 因此第七位之后的数据是不准确的.

\[注\]虽然我们如此书写 double c=123456789123.456765, 但实际能精确存储的数据位数只有16位, 根据输出结果, 变量c中实际存储的数值为123456789123.456770, 在将双精度实型变量c赋值给单精度实型变量b后, b精确存储c变量存储数据的前七位, 所以b变量中实际存储的数据为123456790528.000000(根据输出结果).

问题：什么是有效数字?

![202103211412529.png][]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70]: /images/20221022/14a3c756e78344be9e70297c3e9a2ff9.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 1]: /images/20221022/07cf57d9f68745078c9f6077f9a6405f.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 2]: https://img-blog.csdnimg.cn/20210321131129291.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 3]: https://img-blog.csdnimg.cn/20210321131438748.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 4]: https://img-blog.csdnimg.cn/20210321131759896.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 5]: https://img-blog.csdnimg.cn/20210321132738635.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 6]: https://img-blog.csdnimg.cn/20210321133747620.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 7]: https://img-blog.csdnimg.cn/20210321134032149.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw_size_16_color_FFFFFF_t_70 8]: https://img-blog.csdnimg.cn/20210321133159257.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjA0ODQ2Mw==,size_16,color_FFFFFF,t_70
[202103211412529.png]: https://img-blog.csdnimg.cn/202103211412529.png