js 进行浮点型运算精度缺失

本是古典何须时尚 2024-02-18 17:02 76阅读 0赞

## js 进行浮点型运算精度缺失 ##

#### js字符串转数字 ####

parseFloat()

#### js 进行浮点型运算函数 ####

<script type="text/javascript">
    //浮点型加法
    function accAdd(arg1,arg2){
         
        var r1,r2,m;
        try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
        try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
        m=Math.pow(10,Math.max(r1,r2));
        return (arg1*m+arg2*m)/m;
    }
    //浮点型减法
    function accSub(arg1,arg2){
         
        var r1,r2,m,n;
        try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}
        try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
        m=Math.pow(10,Math.max(r1,r2));
        //动态控制精度长度
        n=(r1>=r2)?r1:r2;
        return ((arg1*m-arg2*m)/m).toFixed(n);
    }
    //浮点型乘法
    function accMul(arg1,arg2) {
         
        var m=0,s1=arg1.toString(),s2=arg2.toString();
        try{m+=s1.split(".")[1].length;}catch(e){}
        try{m+=s2.split(".")[1].length;}catch(e){}
        return  Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
    }
    
    //除法函数
    function accDiv(arg1, arg2) {
         
        var t1 = 0,
            t2 = 0,
            r1, r2;
        try { t1 = arg1.toString().split(".")[1].length } catch (e) {}
        try { t2 = arg2.toString().split(".")[1].length } catch (e) {}
        with(Math) {
            r1 = Number(arg1.toString().replace(".", ""))
            r2 = Number(arg2.toString().replace(".", ""))
            return (r1 / r2) * pow(10, t2 - t1);
        }
    }
    
    //保留两位小数    
    //功能：将浮点数四舍五入，取小数点后2位     
    function toDecimal(x) {
            
        var f = parseFloat(x);    
        if (isNaN(f)) {   
          return;    
        }          
        f = Math.round(x*100)/100;  
        return f;        
    }
    </script>

发表评论取消回复

表情：

评论列表（有 0 条评论，76人围观）

还没有评论，来说两句吧...

相关阅读

相关 js中进行浮点数运算时容易出现精度问题

js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法

清疚/ 2024年03月27日 10:37/ 0 赞/ 119 阅读

相关 js 进行浮点型运算精度缺失

js 进行浮点型运算精度缺失 js字符串转数字 parseFloat() js 进行浮点型运算函数 <script type="text/j

本是古典何须时尚/ 2024年02月18日 17:02/ 0 赞/ 77 阅读

相关 js中浮点型是如何运算

http://www.cnblogs.com/wangkongming/archive/2013/01/18/2866788.html js中浮点型是如何运算的呢？

Myth丶恋晨/ 2022年08月06日 06:16/ 0 赞/ 174 阅读

相关 Java浮点类型(Double/Float)运算精度问题

问题的提出：如果我们编译运行下面这个程序会看到什么？ public class Test{ public static void main

﹏ヽ暗。殇╰゛Y/ 2022年06月15日 05:07/ 0 赞/ 287 阅读

相关疑难杂症小记 - 浮点运算的精度问题

先上一段C\代码,有兴趣的朋友可以人脑执行一遍~ int num = 160; float test = 1.3f; flo

心已赠人/ 2022年05月28日 04:51/ 0 赞/ 256 阅读

相关 nodejs处理浮点型数据运算之decimal.js使用

> 一下结果都是对互联网的资料进行整理，方便个人学习查阅 [此连接讲解的也比较详细][Link 1]<--------- ![o_decimal.png][]

拼搏现实的明天。/ 2022年04月13日 04:40/ 0 赞/ 395 阅读

相关 JS浮点数精度缺失问题

先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确，但第一个

曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 324 阅读

相关 js 小数运算浮点问题

var value = 1.01; var step=1.02; var sum = value + step; console.log(sum

妖狐艹你老母/ 2022年03月17日 04:24/ 0 赞/ 319 阅读

相关 Java电商项目面试--浮点型商业运算中丢失精度问题

> 面试题：如何解决浮点型商业运算中丢失精度问题 > 面试题：Java中一般用什么类型表示价格(百度面试题) 一、问题描述代码： public class

曾经终败给现在/ 2021年09月27日 07:56/ 0 赞/ 321 阅读

相关 JavaScript 浮点数运算的精度问题

问题描述在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型，所有数字都是以 `64` 位浮点数形式储存，即便整数也是如此。所以我们在打印

╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 489 阅读