解决mvel算数运算时精度失真问题

ゞ浴缸里的玫瑰 2022-03-24 16:10 418阅读 0赞

## **解决mvel算数运算时精度失真问题。** ##

当我们采用mvel实现算数运算时可能会出现精度失真问题。如：

@Test
    public void testMvel() {
    	String expression = "def calc() { return currentRate-historyRate; } return calc();";
    	Map<String, Object> paramMap = Maps.newHashMap();
    	paramMap.put("currentRate", 0.01800000);
    	paramMap.put("historyRate", 0.01600000);
    	Object object = MVEL.eval(expression, paramMap);
    	System.out.println("输出结果：" + object);
    }

此时得到的结果精度将失真：

输出结果：0.0019999999999999983

解决这个问题我们可以利用mvel的占位符`@{}`及指定数据类型`B`，`B`即`BigDecimal`的缩写。如：

@Test
    public void testMvel() {
    	String expression = "def calc() { return (@{currentRate}B-@{historyRate}B); } return calc();";
    	Map<String, Object> paramMap = Maps.newHashMap();
    	paramMap.put("currentRate", 0.01800000);
    	paramMap.put("historyRate", 0.01600000);
    	/**匹配表达式*/
    	expression = (String) TemplateRuntime.eval(expression, paramMap);
    	Object object = MVEL.eval(expression, paramMap);
    	System.out.println("输出结果：" + object);
    }

此时得到的结果：

输出结果：0.002

发表评论取消回复

表情：

评论列表（有 0 条评论，418人围观）

还没有评论，来说两句吧...

相关阅读

相关 JS运算精度失真处理

*解决思路** 通过将运算的两个数放大相应的倍数，将其变为整数进行运算，然后将结果再除以放大的倍数即可。 ![在这里插入图片描述][2019091721295812...

痛定思痛。/ 2024年04月19日 11:38/ 0 赞/ 7 阅读

相关 js中进行浮点数运算时容易出现精度问题

js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法

清疚/ 2024年03月27日 10:37/ 0 赞/ 14 阅读

相关 JSON转Long类型时精度丢失问题解决

> 这个问题的原因是js在对长整型数据进行处理时会损失精度，从而id发生变化。 > > 要想解决这个问题，也很简单，只需要让js处理的ID数据类型为字符串类型即可, 这样就

雨点打透心脏的1/2处/ 2023年10月14日 15:38/ 0 赞/ 8 阅读

相关 java 图片合成红色失真_java 图片合成　解决图片失真问题

源代码/\\ \ \ @param filesrc \ @param logosrc \ @param outsrc \ @param x 位置 \ @param

柔光的暖阳◎/ 2022年11月03日 04:09/ 0 赞/ 138 阅读

相关 PyTorch教程（六）：算数运算

import torch a = torch.rand(3,4) tensor([[0.0422, 0.9152, 0.5486, 0.87

傷城~/ 2022年10月30日 14:26/ 0 赞/ 151 阅读

相关 Linux bash 算数运算

在bash中直接使用+是字符转连接操作若A=3;B=4;C=$A+$B echo $C 结果为字符串3+4 如果想要做算术运算有以下几种方法： 1、使用let命令

亦凉/ 2022年08月06日 01:19/ 0 赞/ 104 阅读

相关算数运算

文章目录 1.六种运算方式 2.let命令使用 3.expr命令的使用 4.br命令的使用 5.$\[算术运算符\] 6.$((算术运

亦凉/ 2022年04月22日 05:06/ 0 赞/ 136 阅读

相关解决mvel算数运算时精度失真问题

解决mvel算数运算时精度失真问题。当我们采用mvel实现算数运算时可能会出现精度失真问题。如： @Test public void testMvel

ゞ浴缸里的玫瑰/ 2022年03月24日 16:10/ 0 赞/ 419 阅读

相关 js运算精度丢失问题

今天出现了一个运算bug，求总计的时候出现精度问题。下面的输入框求和，总计之后得到了这样的数字。 ![20190301144321163.png][] 现在很多人js加

ゞ浴缸里的玫瑰/ 2022年03月15日 07:40/ 0 赞/ 296 阅读

相关 JavaScript 浮点数运算的精度问题

问题描述在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型，所有数字都是以 `64` 位浮点数形式储存，即便整数也是如此。所以我们在打印

╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 386 阅读