js精度问题

╰半夏微凉° 2022-09-03 00:14 167阅读 0赞

前端项目运用到运算，有时候会出现精度丢失问题，在网上找到一位大佬的解决办法（[https://www.npmjs.com/package/number-precision/v/1.0.0][https_www.npmjs.com_package_number-precision_v_1.0.0]），然后稍微的翻译下（小声bb）。  
特别说明：**如果有侵权，请联系删除**，谢谢！  
有2个不懂的，查了下，带网址：  
[Number.MAX\_SAFE\_INTEGER][Number.MAX_SAFE_INTEGER]:常量表示在 JavaScript 中最大的安全整数  
[Number.MIN\_SAFE\_INTEGER][Number.MIN_SAFE_INTEGER]:代表在 JavaScript中最小的安全的integer型数字

function __spreadArrays() { 
        for (var s = 0, i = 0, il = arguments.length; i < il; i++) s += arguments[i].length;
        for (var r = Array(s), k = 0, i = 0; i < il; i++)
            for (var a = arguments[i], j = 0, jl = a.length; j < jl; j++, k++)
                r[k] = a[j];
        return r;
    }
    
    /** 精确到指定位数precision（从整数开始，并且第一位数为非0），超过precision的则四舍五入 例：strip(0.01111) 默认precision=15，输出为 0.01111 strip(0.01111,1) 输出为 0.01 strip(0.01111,2) 输出为 0.011 strip(1.01111,2) 输出为 1.0 strip(1.01111,3) 输出为 1.01 strip(1.01511,3) 输出为 1.02 precision的数值范围 1~100 超过100会报错 **/
    function strip(num, precision) { 
        if (precision === void 0) {  precision = 15; }
        return +parseFloat(Number(num).toPrecision(precision));
    }
    /** 获取小数点后面有多少位数字 例：digitLength(1) //0 digitLength(1.11) //2 digitLength(1.00006) //5 digitLength(1.00) //0 **/
    function digitLength(num) { 
        var eSplit = num.toString().split(/[eE]/);
        var len = (eSplit[0].split('.')[1] || '').length - +(eSplit[1] || 0);
        return len > 0 ? len : 0;
    }
    /** 把小数转成整数,相当于把小数点去掉 例： float2Fixed(1) //1 float2Fixed(1.00) //1 float2Fixed(1.01) //101 float2Fixed(1.99999) //199999 **/
    function float2Fixed(num) { 
        if (num.toString().indexOf('e') === -1) { 
            return Number(num.toString().replace('.', ''));
        }
        var dLen = digitLength(num);
        return dLen > 0 ? strip(Number(num) * Math.pow(10, dLen)) : Number(num);
    }
    /** * 检测数字是否越界，如果越界给出提示 Number.MAX_SAFE_INTEGER:常量表示在 JavaScript 中最大的安全整数 Number.MIN_SAFE_INTEGER:常量表示在 JavaScript 中最小的安全整数 **/
    function checkBoundary(num) { 
        if (_boundaryCheckingState) { 
            if (num > Number.MAX_SAFE_INTEGER || num < Number.MIN_SAFE_INTEGER) { 
                console.warn("当转换为整数时，"+num+"超出了边界,结果可能不准确");
            }
        }
    }
    /** * 精确乘法 */
    function times(num1, num2) { 
        var others = [];
        for (var _i = 2; _i < arguments.length; _i++) { 
            others[_i - 2] = arguments[_i];
        }
        if (others.length > 0) { 
            return times.apply(void 0, __spreadArrays([times(num1, num2), others[0]], others.slice(1)));
        }
        var num1Changed = float2Fixed(num1);
        var num2Changed = float2Fixed(num2);
        var baseNum = digitLength(num1) + digitLength(num2);
        var leftValue = num1Changed * num2Changed;
        checkBoundary(leftValue);
        return leftValue / Math.pow(10, baseNum);
    }
    /** * 精确加法 */
    function plus(num1, num2) { 
        var others = [];
        for (var _i = 2; _i < arguments.length; _i++) { 
            others[_i - 2] = arguments[_i];
        }
        if (others.length > 0) { 
            return plus.apply(void 0, __spreadArrays([plus(num1, num2), others[0]], others.slice(1)));
        }
        var baseNum = Math.pow(10, Math.max(digitLength(num1), digitLength(num2)));
        return (times(num1, baseNum) + times(num2, baseNum)) / baseNum;
    }
    /** * 精确减法 */
    function minus(num1, num2) { 
        var others = [];
        for (var _i = 2; _i < arguments.length; _i++) { 
            others[_i - 2] = arguments[_i];
        }
        if (others.length > 0) { 
            return minus.apply(void 0, __spreadArrays([minus(num1, num2), others[0]], others.slice(1)));
        }
        var baseNum = Math.pow(10, Math.max(digitLength(num1), digitLength(num2)));
        return (times(num1, baseNum) - times(num2, baseNum)) / baseNum;
    }
    /** * 精确除法 */
    function divide(num1, num2) { 
        var others = [];
        for (var _i = 2; _i < arguments.length; _i++) { 
            others[_i - 2] = arguments[_i];
        }
        if (others.length > 0) { 
            return divide.apply(void 0, __spreadArrays([divide(num1, num2), others[0]], others.slice(1)));
        }
        var num1Changed = float2Fixed(num1);
        var num2Changed = float2Fixed(num2);
        checkBoundary(num1Changed);
        checkBoundary(num2Changed);
        // fix: 类似 10 ** -4 为 0.00009999999999999999，strip 修正
        return times(num1Changed / num2Changed, strip(Math.pow(10, digitLength(num2) - digitLength(num1))));
    }
    /** * 四舍五入 */
    function round(num, ratio) { 
        var base = Math.pow(10, ratio);
        return divide(Math.round(times(num, base)), base);
    }
    var _boundaryCheckingState = true;
    /** * 是否进行边界检查，默认开启 * @param flag 标记开关，true 为开启，false 为关闭，默认为 true */
    function enableBoundaryChecking(flag) { 
        if (flag === void 0) {  flag = true; }
        _boundaryCheckingState = flag;
    }
    var index = { 
        strip: strip,
        plus: plus,
        minus: minus,
        times: times,
        divide: divide,
        round: round,
        digitLength: digitLength,
        float2Fixed: float2Fixed,
        enableBoundaryChecking: enableBoundaryChecking,
    };
    
    exports.strip = strip;
    exports.plus = plus;
    exports.minus = minus;
    exports.times = times;
    exports.divide = divide;
    exports.round = round;
    exports.digitLength = digitLength;
    exports.float2Fixed = float2Fixed;
    exports.enableBoundaryChecking = enableBoundaryChecking;
    exports['default'] = index;

[https_www.npmjs.com_package_number-precision_v_1.0.0]: https://www.npmjs.com/package/number-precision/v/1.0.0
[Number.MAX_SAFE_INTEGER]: https://cloud.tencent.com/developer/section/1191884
[Number.MIN_SAFE_INTEGER]: https://cloud.tencent.com/developer/section/1191886

发表评论取消回复

表情：

评论列表（有 0 条评论，167人围观）

还没有评论，来说两句吧...

相关阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 164 阅读

相关 js精度问题

前端项目运用到运算，有时候会出现精度丢失问题，在网上找到一位大佬的解决办法（[https://www.npmjs.com/package/number-precision/v/

╰半夏微凉°/ 2022年09月03日 00:14/ 0 赞/ 168 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

素颜马尾好姑娘i/ 2022年07月12日 02:45/ 0 赞/ 153 阅读

相关 JS之小数精度问题

<script type="text/javascript" language="javascript"> //加法 Number.proto

ゝ一纸荒年。/ 2022年07月12日 02:45/ 0 赞/ 125 阅读

相关 JS Float精度问题 toPrecision

<script language="JavaScript"> var r=13.895+Math.pow(10,-3); alert(r); alert(r.toP

迈不过友情╰/ 2022年03月26日 20:47/ 0 赞/ 144 阅读

相关 js运算精度丢失问题

今天出现了一个运算bug，求总计的时候出现精度问题。下面的输入框求和，总计之后得到了这样的数字。 ![20190301144321163.png][] 现在很多人js加

ゞ浴缸里的玫瑰/ 2022年03月15日 07:40/ 0 赞/ 303 阅读

相关前端js 丢失精度问题

数据库类型bigint，导致js接收数据后丢失精度。 1、在后台查询完毕后遍历集合更改。 public List numAccuracy(List<Map<Obj

谁借莪１个温暖的怀抱￠/ 2022年03月07日 08:38/ 0 赞/ 422 阅读

相关 js处理计算精度问题方案

前言:由于计算机进制之间转换问题，导致计算结果误差，例如：js计算 0.1+0.2=0.3000000000004 解决方法： js引入如下：[https://gi

ゝ一世哀愁。/ 2022年02月24日 08:25/ 0 赞/ 277 阅读

相关 JS精度问题，必须掌握！

实例回顾：打开浏览器控制台，输入 0.1+0.2 计算结果居然是 0.30000000000000004，这是为什么？？？对这个结果感到很意外？是的，就是js精度的问

我会带着你远行/ 2021年11月05日 22:18/ 0 赞/ 251 阅读

相关 js精度计算问题

/\\ js精度计算问题 \/ var formatFloat = function (f, digit)\{ var m = Math.pow(10

Love The Way You Lie/ 2021年09月17日 18:42/ 0 赞/ 365 阅读