浅谈计算机内存中浮点数的表示

╰半夏微凉° 2022-07-11 08:48 240阅读 0赞

发表评论

表情:
评论列表 (有 0 条评论,240人围观)

还没有评论,来说两句吧...

相关阅读

    相关 JavaScript数值

    浮点数的最高精度是17位小数,但在进行算术运算时其精确度远远不如整数,0.1+0.2的结果不是0.3,而是0.30000000000000004。这个小小的舍入误差会导致无法测

    相关 比较

      由于计算机中采用的是有限位的二进制编码,所以浮点数在计算机中的存储不总是精确的。例如,在经过大量计算后,一个浮点型的数3.14在计算机中可能就存储成3.1400000000