js浮点数计算时失去精度

川长思鸟来 2022-01-25 22:25 361阅读 0赞

在项目中计算商品价格的时候再次遇到js浮点数计算出现误差的问题，以前一碰到这个问题就用tofixed方法进行处理一下，这对于一个程序员来说是及其不严谨的。

何况用tofixed方法也是有问题的，解决办法参考之前的一篇博文：https://blog.csdn.net/qq\_33237207/article/details/81668457

1、发现问题：

## 在测试js浮点数进行加减乘除计算时，都可能出现问题，如下： ##

console.log(0.1 + 0.2);//0.30000000000000004
    console.log(1.0 - 0.9);//0.09999999999999998
    console.log(19.9 * 100);//1989.9999999999998
    console.log(6.6 / 0.2);//32.99999999999999

2、不精准原因：

下面我们来说一下浮点数运算产生误差的原因：（拿0.1+0.2=0.30000000000000004进行举例）

首先，我们要站在计算机的角度思考 0.1 + 0.2 这个看似小儿科的问题。我们知道，能被计算机读懂的是二进制，而不是十进制，所以我们先把 0.1 和 0.2 转换成二进制看看：

0.1 => 0.0001 1001 1001 1001…（无限循环）

0.2 => 0.0011 0011 0011 0011…（无限循环）

上面我们发现0.1和0.2转化为二进制之后，变成了一个无限循环的数字，这在现实生活中，无限循环我们可以理解，但计算机是不允许无限循环的，对于无限循环的小数，计算机会进行舍入处理。进行双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ，因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。

注：十进制与二进制之间的转换，参考此文章：[十进制与二进制的转化][Link 1]

3、解决办法

var floatObj = function () { 
     
            /* * 判断obj是否为一个整数 */
            function isInteger(obj) { 
                return Math.floor(obj) === obj
            }
     
            /* * 将一个浮点数转成整数，返回整数和倍数。如 3.14 >> 314，倍数是 100 * @param floatNum {number} 小数 * @return {object} * {times:100, num: 314} */
            function toInteger(floatNum) { 
                var ret = { times: 1, num: 0};
                if (isInteger(floatNum)) { 
                    ret.num = floatNum;
                    return ret
                }
                var strfi = floatNum + '';
                var dotPos = strfi.indexOf('.');
                var len = strfi.substr(dotPos + 1).length;
                var times = Math.pow(10, len);
                var intNum = parseInt(floatNum * times + 0.5, 10);
                ret.times = times;
                ret.num = intNum;
                return ret
            }
     
            /* * 核心方法，实现加减乘除运算，确保不丢失精度 * 思路：把小数放大为整数（乘），进行算术运算，再缩小为小数（除） * * @param a {number} 运算数1 * @param b {number} 运算数2 * @param op {string} 运算类型，有加减乘除（add/subtract/multiply/divide） * */
            function operation(a, b, op) { 
                var o1 = toInteger(a);
                var o2 = toInteger(b);
                var n1 = o1.num;
                var n2 = o2.num;
                var t1 = o1.times;
                var t2 = o2.times;
                var max = t1 > t2 ? t1 : t2;
                var result = null;
                switch (op) { 
                    case 'add':
                        if (t1 === t2) {  // 两个小数位数相同
                            result = n1 + n2
                        } else if (t1 > t2) {  // o1 小数位 大于 o2
                            result = n1 + n2 * (t1 / t2)
                        } else {  // o1 小数位 小于 o2
                            result = n1 * (t2 / t1) + n2
                        }
                        return result / max;
                    case 'subtract':
                        if (t1 === t2) { 
                            result = n1 - n2
                        } else if (t1 > t2) { 
                            result = n1 - n2 * (t1 / t2)
                        } else { 
                            result = n1 * (t2 / t1) - n2
                        }
                        return result / max;
                    case 'multiply':
                        result = (n1 * n2) / (t1 * t2);
                        return result;
                    case 'divide':
                        result = (n1 / n2) * (t2 / t1);
                        return result
                }
            }
     
            // 加减乘除的四个接口
            function add(a, b) { 
                return operation(a, b, 'add')
            }
     
            function subtract(a, b) { 
                return operation(a, b, 'subtract')
            }
     
            function multiply(a, b) { 
                return operation(a, b, 'multiply')
            }
     
            function divide(a, b) { 
                return operation(a, b, 'divide')
            }
     
            // exports
            return { 
                add: add,
                subtract: subtract,
                multiply: multiply,
                divide: divide
            }
        }();

调用方法：

console.log(floatObj.add(0.1, 0.2));//0.3
    console.log(floatObj.subtract(1.0, 0.9));//0.1
    console.log(floatObj.multiply(19.9, 100));//1990
    console.log(floatObj.divide(6.6, 0.2));//33

扫一扫关注我的公众号哟！  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2V0aGFuX194dQ_size_16_color_FFFFFF_t_70]  
原文链接https://blog.csdn.net/qq\_33237207/article/details/82109352

[Link 1]: https://baike.baidu.com/item/%E5%8D%81%E8%BF%9B%E5%88%B6%E8%BD%AC%E4%BA%8C%E8%BF%9B%E5%88%B6/393189?fr=aladdin
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2V0aGFuX194dQ_size_16_color_FFFFFF_t_70]: /images/20220126/40ca0ec2429842e5a6e8c86fcf6a3b2c.png

发表评论取消回复

表情：

评论列表（有 0 条评论，361人围观）

还没有评论，来说两句吧...

相关阅读

相关 js中进行浮点数运算时容易出现精度问题

js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法

清疚/ 2024年03月27日 10:37/ 0 赞/ 119 阅读

相关浮点数精度丢失

问题提出：12.0f-11.9f=0.10000038，”减不尽”为什么？来自MSDN的解释： [http://msdn.microsoft.com/zh-cn/c151

ゝ一纸荒年。/ 2023年07月17日 14:19/ 0 赞/ 22 阅读

相关浮点数精确加减法，保留精度

在用php做渐渐发的时候一定要注意，浮点数直接相加减会造成精度丢失，这时候需要使用精度函数： bcadd — 2个任意精度数字的加法计算 bccomp — 比

快来打我*/ 2023年06月05日 08:18/ 0 赞/ 22 阅读

相关 js计算精度（加减乘除）确保计算不失去精度

加： function dcmAdd(arg1,arg2)\{ var r1,r2,m; try{r1=arg1.toString().split("."

骑猪看日落/ 2022年12月11日 04:26/ 0 赞/ 245 阅读

相关单精度浮点数和双精度浮点数_浮点数和双精度数之间的区别

![0b4d070881144d90e79ec876b69711aa.png][] 单精度浮点数和双精度浮点数 Here you will learn about diff

朴灿烈づ我的快乐病毒、/ 2022年12月07日 13:29/ 0 赞/ 265 阅读

相关 Java浮点数精度控制

package mypackage; import java.text.DecimalFormat; public class NumberTest \{ public sta

分手后的思念是犯贱/ 2022年09月28日 13:23/ 0 赞/ 264 阅读

相关浮点数精度问题处理

[参考][Link 1] 由于浮点数在计算机中的存储问题，所以不论是float类型的数据还是double类型的数据都是有其精度的，取浮点数精度下限，float为6位，doub

逃离我推掉我的手/ 2022年08月10日 10:56/ 0 赞/ 265 阅读

相关浮点数输入精度问题

输入： ![Image 1][]![Image 1][]![20150814202153285][] ![20150814202156072][] ![201508

你的名字/ 2022年08月04日 00:59/ 0 赞/ 278 阅读

相关 JS浮点数精度缺失问题

先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确，但第一个

曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 324 阅读

相关 js浮点数计算时失去精度

在项目中计算商品价格的时候再次遇到js浮点数计算出现误差的问题，以前一碰到这个问题就用tofixed方法进行处理一下，这对于一个程序员来说是及其不严谨的。何况用tofixe

川长思鸟来/ 2022年01月25日 22:25/ 0 赞/ 362 阅读