java 小数乘法_Javascript保证精度的小数乘法

冷不防 2022-11-02 15:26 152阅读 0赞

众所周知，js的小数乘法很容易丢失精度，这是一件很恶心的事情。

所以我写了这个方法，保证计算精度。

/\*\*

\* js小数乘法

\*@parameter arg1：被乘数(接受小数和整数)

\*@parameter arg2：乘数(接受小数和整数)

\*@parameter fix: 乘积保留几位(接受正负整数以及0)

\*/

function accMul(arg1,arg2,fix) \{

if(!parseInt(fix)==fix)

\{

return;

\}

var m=0,s1=arg1.toString(),s2=arg2.toString();

try\{m+=s1.split(".")\[1\].length\}catch(e)\{\}

try\{m+=s2.split(".")\[1\].length\}catch(e)\{\}

if(m>fix)\{

return (Math.round(Number(s1.replace(".",""))\*Number(s2.replace(".",""))/Math.pow(10,m-fix))/Math.pow(10,fix));

\}else if(m<=fix)\{

return (Number(s1.replace(".",""))\*Number(s2.replace(".",""))/Math.pow(10,m)).toFixed(fix);

\}else\{

return (arg1\*arg2).toFixed(fix);

\}

\}

另外附上 我的测试用例，不全或者有误的地方，欢迎指点批评，谢谢！

document.writeln("3472.45\*0.3 = 1041.735 保留2位: "+accMul(3472.45, 0.3,2)+"  
");

document.writeln("3472.45\*0.3 = 1041.735 保留1位"+accMul(3472.45, 0.3,1)+"  
");

document.writeln("3472.45\*0.3 = 1041.735 保留0位"+accMul(3472.45, 0.3,0)+"  
");

document.writeln("3472.45\*0.3 = 1041.735 保留-1位"+accMul(3472.45, 0.3,-1)+"  
");

document.writeln("347245\*0.3 = 104173.5 保留2位"+accMul(347245, 0.3,2)+"  
");

document.writeln("347245\*0.3 = 104173.5 保留1位"+accMul(347245, 0.3,1)+"  
");

document.writeln("347245\*0.3 = 104173.5 保留0位"+accMul(347245, 0.3,0)+"  
");

document.writeln("347245\*0.3 = 104173.5 保留-1位"+accMul(347245, 0.3,-1)+"  
");

document.writeln("347245\*3 = 1041735 保留2位"+accMul(347245, 3,2)+"  
");

document.writeln("347245\*3 = 1041735 保留1位"+accMul(347245, 3,1)+"  
");

document.writeln("347245\*3 = 1041735 保留0位"+accMul(347245, 3,0)+"  
");

document.writeln("347245\*3 = 1041735 保留-1位"+accMul(347245, 3,-1)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留3位"+accMul(0.5, 0.3,3)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留2位"+accMul(0.5, 0.3,2)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留1位"+accMul(0.5, 0.3,1)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留0位"+accMul(0.5, 0.3,0)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留-1位"+accMul(0.5, 0.3,-1)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留-2位"+accMul(0.5, 0.3,-2)+"  
");

document.writeln("0.5\*0.3 = 0.15 保留-3位"+accMul(0.5, 0.3,-3)+"  
");

发表评论取消回复

表情：

评论列表（有 0 条评论，152人围观）

还没有评论，来说两句吧...

相关阅读

相关高精度乘法

求2的N次方，N小于1000。

逃离我推掉我的手/ 2024年05月01日 16:21/ 0 赞/ 60 阅读

相关 php 小数精度问题,php小数精度问题

该楼层疑似违规已被系统折叠隐藏此楼查看此楼 $number = sprintf('%.3f',$number); echo var\_dump($number)."取$d

深藏阁楼爱情的钟/ 2023年01月17日 04:49/ 0 赞/ 186 阅读

相关 java 小数乘法_Javascript保证精度的小数乘法

众所周知，js的小数乘法很容易丢失精度，这是一件很恶心的事情。所以我写了这个方法，保证计算精度。 /\\ \ js小数乘法 \@parameter arg1：被乘数(

冷不防/ 2022年11月02日 15:26/ 0 赞/ 153 阅读

相关 java小数丢失精度_Java中的小数运算与精度损失

float、double类型的问题我们都知道，计算机是使用二进制存储数据的。而平常生活中，大多数情况下我们都是使用的十进制，因此计算机显示给我们看的内容大多数也是十进制的，

快来打我*/ 2022年10月23日 08:18/ 0 赞/ 214 阅读

相关 java 小数乘法_集合复习教案

集合jí hé\[释义\]①(动)许多分散的人或物聚在一起。民兵已经在村前～了。(作谓语)②(动)使集合。～各种材料；加以分析。(作谓语)\[构成\]动补式：集〈合\[反义\]

ゝ一纸荒年。/ 2022年10月23日 08:08/ 0 赞/ 139 阅读

相关 C-高精度乘法

亲测可用 \include<stdio.h> \include<string.h> int main() \{ int i,j,alen,blen,\s;

刺骨的言语ヽ痛彻心扉/ 2022年09月30日 13:47/ 0 赞/ 199 阅读

相关高精度小数

题目内容：由于计算机内部表达方式的限制，浮点运算都有精度问题，为了得到高精度的计算结果，就需要自己设计实现方法。 (0,1)之间的任何浮点数都可以表达为两个正整数的商，为

秒速五厘米/ 2022年07月03日 17:28/ 0 赞/ 296 阅读

相关 BigDecimal类（高精度小数）

位置：java.math.BigDecimal 作用：提供高精度小数数据类型及相关操作一、基本介绍 BigDecimal为不可变的、任意精度的有符号十进制数，其值为

ゝ一世哀愁。/ 2022年05月28日 00:36/ 0 赞/ 280 阅读

相关 java 小数精度问题

1、原因由于浮点数在转化为二进制时无法运算完结，所以会无限循环下去，导致运算结果达不到期望值。例如：1.14，转化为二进制，然后再转回十进制就变成了：1.1399999

梦里梦外;/ 2022年05月23日 02:52/ 0 赞/ 186 阅读

相关高精度乘法

include <iostream> include <vector> include <string> using namespace std

素颜马尾好姑娘i/ 2021年06月22日 15:36/ 0 赞/ 457 阅读