js--小数计算精度问题

布满荆棘的人生 2023-01-02 13:27 164阅读 0赞

# 原因 #

二进制与十进制转化时的精度丢失

# 现象 #

<script>
            console.log(99.99+0.02);
            console.log(33.122+44.1);
            for (var i = 0; i < 10; i++) { 
                // toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
                var num = Math.random().toFixed(2)*100;
                console.log(num);         
            }    
     </script>

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjg5ODMxNQ_size_16_color_FFFFFF_t_70]

# 解决办法 #

采用tofixed方法取小数点后两位。随机数直接取整。

<script>
            console.log ((99.99+0.02).toFixed(2));
            console.log( (33.122+44.1).toFixed(2));
            for (var i = 0; i < 10; i++) { 
                // toFixed() 方法可把 Number 四舍五入为指定小数位数的数字。
                //向下取整
                var num =Math.floor(Math.random()*100);    
                console.log(num);         
            }
        </script>

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80Mjg5ODMxNQ_size_16_color_FFFFFF_t_70]: /images/20221119/3fa27cae07eb451e94fccaee17c89ef1.png

发表评论取消回复

表情：

评论列表（有 0 条评论，164人围观）

还没有评论，来说两句吧...

相关阅读

相关 php 小数精度问题,php小数精度问题

该楼层疑似违规已被系统折叠隐藏此楼查看此楼 $number = sprintf('%.3f',$number); echo var\_dump($number)."取$d

深藏阁楼爱情的钟/ 2023年01月17日 04:49/ 0 赞/ 137 阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 165 阅读

相关 js中小数计算丢失精度解决

最近在写步进器组件的时候遇到了小数计算丢失精度的问题。写的是这么个东西 ![在这里插入图片描述][20200807091940247.png] 现在做一个测试，打

ゝ一世哀愁。/ 2022年11月25日 04:04/ 0 赞/ 151 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

素颜马尾好姑娘i/ 2022年07月12日 02:45/ 0 赞/ 154 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

ゝ一纸荒年。/ 2022年07月12日 02:45/ 0 赞/ 126 阅读

相关 java 小数精度问题

1、原因由于浮点数在转化为二进制时无法运算完结，所以会无限循环下去，导致运算结果达不到期望值。例如：1.14，转化为二进制，然后再转回十进制就变成了：1.1399999

梦里梦外;/ 2022年05月23日 02:52/ 0 赞/ 139 阅读

相关 js处理计算精度问题方案

前言:由于计算机进制之间转换问题，导致计算结果误差，例如：js计算 0.1+0.2=0.3000000000004 解决方法： js引入如下：[https://gi

ゝ一世哀愁。/ 2022年02月24日 08:25/ 0 赞/ 278 阅读

相关 js处理小数加减乘除法计算精度问题

先根据小数点的位数，把小数扩大适当的倍数， / 计算需要乘以的倍数 / var getMaxBaseNum =

不念不忘少年蓝@/ 2021年09月24日 08:28/ 0 赞/ 383 阅读

相关 js精度计算问题

/\\ js精度计算问题 \/ var formatFloat = function (f, digit)\{ var m = Math.pow(10

Love The Way You Lie/ 2021年09月17日 18:42/ 0 赞/ 367 阅读

相关 JS精度计算

问题这样的： 37.5\5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.0

灰太狼/ 2021年06月24日 13:58/ 0 赞/ 382 阅读