JS之小数精度问题

素颜马尾好姑娘i 2022-07-12 02:45 159阅读 0赞

<script type="text/javascript" language="javascript">  
    //加法   
    Number.prototype.add = function(arg){   
        var r1,r2,m;   
        try{r1=this.toString().split(".")[1].length}catch(e){r1=0}   
        try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}   
        m=Math.pow(10,Math.max(r1,r2))   
        return (this*m+arg*m)/m;
    }   
     
    //减法   
    Number.prototype.sub = function (arg){   
        return this.add(-arg);   
    }   
     
    //乘法   
    Number.prototype.mul = function (arg)   
    {   
        var m=0,s1=this.toString(),s2=arg.toString();   
        try{m+=s1.split(".")[1].length}catch(e){}   
        try{m+=s2.split(".")[1].length}catch(e){}   
        return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);   
    }   
     
    //除法   
    Number.prototype.div = function (arg){   
        var t1=0,t2=0,r1,r2;   
        try{t1=this.toString().split(".")[1].length}catch(e){}   
        try{t2=arg.toString().split(".")[1].length}catch(e){}   
        with(Math){   
            r1=Number(this.toString().replace(".",""))   
            r2=Number(arg.toString().replace(".",""))   
            return (r1/r2)*pow(10,t2-t1);   
        }   
    }  
     //测试
       alert(Number(0.09999999).add(0.00000001));//弹出: 0.1   
       //注意，如果是负数，一定要先使用Number转型，否则结果不正确   
       alert(Number(-0.09999999).sub(0.00000001));//弹出: -0.1   
       alert(Number(0.012345).mul(0.000001));//弹出: 1.2345e-8   
       alert(Number(0.000001).div(0.0001));//弹出: 0.01   
    </script>

发表评论取消回复

表情：

评论列表（有 0 条评论，159人围观）

还没有评论，来说两句吧...

相关阅读

相关 R语言长小数计算精度问题

尽管R语言中长小数计算精度不准确是一个普遍存在的问题，但我们可以采取上述方法来解决或减轻这个问题。在进行重要的数值计算时，特别是涉及金融、科学或工程领域的计算时，我们应该...

谁借莪１个温暖的怀抱￠/ 2024年05月07日 17:03/ 0 赞/ 18 阅读

相关 php 小数精度问题,php小数精度问题

该楼层疑似违规已被系统折叠隐藏此楼查看此楼 $number = sprintf('%.3f',$number); echo var\_dump($number)."取$d

深藏阁楼爱情的钟/ 2023年01月17日 04:49/ 0 赞/ 140 阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 168 阅读

相关 js中小数计算丢失精度解决

最近在写步进器组件的时候遇到了小数计算丢失精度的问题。写的是这么个东西 ![在这里插入图片描述][20200807091940247.png] 现在做一个测试，打

ゝ一世哀愁。/ 2022年11月25日 04:04/ 0 赞/ 153 阅读

相关 js精度问题

前端项目运用到运算，有时候会出现精度丢失问题，在网上找到一位大佬的解决办法（[https://www.npmjs.com/package/number-precision/v/

╰半夏微凉°/ 2022年09月03日 00:14/ 0 赞/ 173 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

素颜马尾好姑娘i/ 2022年07月12日 02:45/ 0 赞/ 160 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

ゝ一纸荒年。/ 2022年07月12日 02:45/ 0 赞/ 129 阅读

相关高精度小数

题目内容：由于计算机内部表达方式的限制，浮点运算都有精度问题，为了得到高精度的计算结果，就需要自己设计实现方法。 (0,1)之间的任何浮点数都可以表达为两个正整数的商，为

秒速五厘米/ 2022年07月03日 17:28/ 0 赞/ 237 阅读

相关 java 小数精度问题

1、原因由于浮点数在转化为二进制时无法运算完结，所以会无限循环下去，导致运算结果达不到期望值。例如：1.14，转化为二进制，然后再转回十进制就变成了：1.1399999

梦里梦外;/ 2022年05月23日 02:52/ 0 赞/ 142 阅读

相关 js处理小数加减乘除法计算精度问题

先根据小数点的位数，把小数扩大适当的倍数， / 计算需要乘以的倍数 / var getMaxBaseNum =

不念不忘少年蓝@/ 2021年09月24日 08:28/ 0 赞/ 392 阅读