解决mvel算数运算时精度失真问题

ゞ浴缸里的玫瑰 2022-03-24 16:10 484阅读 0赞

## **解决mvel算数运算时精度失真问题。** ##

当我们采用mvel实现算数运算时可能会出现精度失真问题。如：

@Test
    public void testMvel() {
    	String expression = "def calc() { return currentRate-historyRate; } return calc();";
    	Map<String, Object> paramMap = Maps.newHashMap();
    	paramMap.put("currentRate", 0.01800000);
    	paramMap.put("historyRate", 0.01600000);
    	Object object = MVEL.eval(expression, paramMap);
    	System.out.println("输出结果：" + object);
    }

此时得到的结果精度将失真：

输出结果：0.0019999999999999983

解决这个问题我们可以利用mvel的占位符`@{}`及指定数据类型`B`，`B`即`BigDecimal`的缩写。如：

@Test
    public void testMvel() {
    	String expression = "def calc() { return (@{currentRate}B-@{historyRate}B); } return calc();";
    	Map<String, Object> paramMap = Maps.newHashMap();
    	paramMap.put("currentRate", 0.01800000);
    	paramMap.put("historyRate", 0.01600000);
    	/**匹配表达式*/
    	expression = (String) TemplateRuntime.eval(expression, paramMap);
    	Object object = MVEL.eval(expression, paramMap);
    	System.out.println("输出结果：" + object);
    }

此时得到的结果：

输出结果：0.002

发表评论取消回复

表情：

评论列表（有 0 条评论，484人围观）

还没有评论，来说两句吧...

相关阅读

相关 Java浮点数运算精度问题示例

在Java中，浮点数的运算可能会出现精度问题。这主要是因为Java使用IEEE 754标准来表示和处理浮点数。以下是一个简单的例子，展示了浮点数运算可能存在的精度问题：

今天药忘吃喽~/ 2024年09月10日 15:54/ 0 赞/ 126 阅读

相关 JS运算精度失真处理

*解决思路** 通过将运算的两个数放大相应的倍数，将其变为整数进行运算，然后将结果再除以放大的倍数即可。 ![在这里插入图片描述][2019091721295812...

痛定思痛。/ 2024年04月19日 11:38/ 0 赞/ 69 阅读

相关 shell scripts之算数运算详解

算数运算符如下： ![shell scripts之算数运算详解][shell scripts] 运算操作符与运算命令： ![shell scripts之算...

心已赠人/ 2024年04月17日 20:53/ 0 赞/ 78 阅读

相关 js中进行浮点数运算时容易出现精度问题

js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法

清疚/ 2024年03月27日 10:37/ 0 赞/ 123 阅读

相关 PyTorch教程（六）：算数运算

import torch a = torch.rand(3,4) tensor([[0.0422, 0.9152, 0.5486, 0.87

傷城~/ 2022年10月30日 14:26/ 0 赞/ 214 阅读

相关 Linux bash 算数运算

在bash中直接使用+是字符转连接操作若A=3;B=4;C=$A+$B echo $C 结果为字符串3+4 如果想要做算术运算有以下几种方法： 1、使用let命令

亦凉/ 2022年08月06日 01:19/ 0 赞/ 156 阅读

相关算数运算

文章目录 1.六种运算方式 2.let命令使用 3.expr命令的使用 4.br命令的使用 5.$\[算术运算符\] 6.$((算术运

亦凉/ 2022年04月22日 05:06/ 0 赞/ 196 阅读

相关解决mvel算数运算时精度失真问题

解决mvel算数运算时精度失真问题。当我们采用mvel实现算数运算时可能会出现精度失真问题。如： @Test public void testMvel

ゞ浴缸里的玫瑰/ 2022年03月24日 16:10/ 0 赞/ 485 阅读

相关 js运算精度丢失问题

今天出现了一个运算bug，求总计的时候出现精度问题。下面的输入框求和，总计之后得到了这样的数字。 ![20190301144321163.png][] 现在很多人js加

ゞ浴缸里的玫瑰/ 2022年03月15日 07:40/ 0 赞/ 368 阅读

相关 JavaScript 浮点数运算的精度问题

问题描述在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型，所有数字都是以 `64` 位浮点数形式储存，即便整数也是如此。所以我们在打印

╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 490 阅读