JS精度计算

灰太狼 2021-06-24 13:58 467阅读 0赞

问题这样的：   
37.5\*5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数)   
我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.08499999999998   
怎么会这样，两个只有一位小数的数字相乘，怎么可能多出这么小数点出来。   
我Google了一下，发现原来这是JavaScript浮点运算的一个bug。   
比如：7\*0.8 JavaScript算出来就是：5.6000000000000005   
网上找到了一些解决办法，就是重新写了一些浮点运算的函数。   
下面就把这些方法摘录下来，以供遇到同样问题的朋友参考：

程序代码   
//除法函数，用来得到精确的除法结果   
//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。   
//调用：accDiv(arg1,arg2)   
//返回值：arg1除以arg2的精确结果

function accDiv(arg1,arg2)\{   
var t1=0,t2=0,r1,r2;   
try\{t1=arg1.toString().split(".")\[1\].length\}catch(e)\{\}   
try\{t2=arg2.toString().split(".")\[1\].length\}catch(e)\{\}   
with(Math)\{   
r1=Number(arg1.toString().replace(".",""))   
r2=Number(arg2.toString().replace(".",""))   
return (r1/r2)\*pow(10,t2-t1);   
\}   
\}   
//给Number类型增加一个div方法，调用起来更加方便。   
Number.prototype.div = function (arg)\{   
return accDiv(this, arg);   
\}   
//乘法函数，用来得到精确的乘法结果   
//说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。   
//调用：accMul(arg1,arg2)   
//返回值：arg1乘以arg2的精确结果   
function accMul(arg1,arg2)   
\{   
var m=0,s1=arg1.toString(),s2=arg2.toString();   
try\{m+=s1.split(".")\[1\].length\}catch(e)\{\}   
try\{m+=s2.split(".")\[1\].length\}catch(e)\{\}   
return Number(s1.replace(".",""))\*Number(s2.replace(".",""))/Math.pow(10,m)   
\}   
//给Number类型增加一个mul方法，调用起来更加方便。   
Number.prototype.mul = function (arg)\{   
return accMul(arg, this);   
\}   
//加法函数，用来得到精确的加法结果   
//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。   
//调用：accAdd(arg1,arg2)   
//返回值：arg1加上arg2的精确结果   
function accAdd(arg1,arg2)\{   
var r1,r2,m;   
try\{r1=arg1.toString().split(".")\[1\].length\}catch(e)\{r1=0\}   
try\{r2=arg2.toString().split(".")\[1\].length\}catch(e)\{r2=0\}   
m=Math.pow(10,Math.max(r1,r2))   
return (arg1\*m+arg2\*m)/m   
\}   
//给Number类型增加一个add方法，调用起来更加方便。   
Number.prototype.add = function (arg)\{   
return accAdd(arg,this);   
\}

在你要用的地方包含这些函数，然后调用它来计算就可以了。   
比如你要计算：7\*0.8 ，则改成 (7).mul(8)   
其它运算类似，就可以得到比较精确的结果。

\--------------------------------------------------------------------------  
以上是在网上一个JS牛人的博客上转载的，不过上面只提及了加法、乘法和除法的解决办法。  
这个时候可能很多人就会想，有了加法，减法还不容易？我就是差点让这个想法给害苦了。  
其他的就不多说了，帖出减法的代码：

function Subtr(arg1,arg2)\{  
     var r1,r2,m,n;  
     try\{r1=arg1.toString().split(".")\[1\].length\}catch(e)\{r1=0\}  
     try\{r2=arg2.toString().split(".")\[1\].length\}catch(e)\{r2=0\}  
     m=Math.pow(10,Math.max(r1,r2));  
     //last modify by deeka  
     //动态控制精度长度  
     n=(r1>=r2)?r1:r2;  
     return ((arg1\*m-arg2\*m)/m).toFixed(n);  
\}

发表评论取消回复

表情：

评论列表（有 0 条评论，467人围观）

还没有评论，来说两句吧...

相关阅读

相关 JS-小数计算精度问题

为什么js运算中小数运算出来会有这么多位数呢？ 0.939\100 = 93.89999999999999 因为浮点数运算都会有精度问题解决方式： p

矫情吗；*/ 2023年03月13日 06:12/ 0 赞/ 44 阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 229 阅读

相关 js计算精度（加减乘除）确保计算不失去精度

加： function dcmAdd(arg1,arg2)\{ var r1,r2,m; try{r1=arg1.toString().split("."

骑猪看日落/ 2022年12月11日 04:26/ 0 赞/ 246 阅读

相关 js中小数计算丢失精度解决

最近在写步进器组件的时候遇到了小数计算丢失精度的问题。写的是这么个东西 ![在这里插入图片描述][20200807091940247.png] 现在做一个测试，打

ゝ一世哀愁。/ 2022年11月25日 04:04/ 0 赞/ 211 阅读

相关 JS中数字计算精度

问题这样的： 37.5\5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.

电玩女神/ 2022年07月29日 10:53/ 0 赞/ 205 阅读

相关 JS中数字计算精度

问题这样的： 37.5\5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.0

快来打我*/ 2022年07月13日 13:48/ 0 赞/ 193 阅读

相关 js处理计算精度问题方案

前言:由于计算机进制之间转换问题，导致计算结果误差，例如：js计算 0.1+0.2=0.3000000000004 解决方法： js引入如下：[https://gi

ゝ一世哀愁。/ 2022年02月24日 08:25/ 0 赞/ 347 阅读

相关 js浮点数计算时失去精度

在项目中计算商品价格的时候再次遇到js浮点数计算出现误差的问题，以前一碰到这个问题就用tofixed方法进行处理一下，这对于一个程序员来说是及其不严谨的。何况用tofixe

川长思鸟来/ 2022年01月25日 22:25/ 0 赞/ 362 阅读

相关 js精度计算问题

/\\ js精度计算问题 \/ var formatFloat = function (f, digit)\{ var m = Math.pow(10

Love The Way You Lie/ 2021年09月17日 18:42/ 0 赞/ 427 阅读

相关 JS精度计算

问题这样的： 37.5\5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.0

灰太狼/ 2021年06月24日 13:58/ 0 赞/ 468 阅读