二进制运算误差问题

柔光的暖阳◎ 2022-07-15 06:26 185阅读 0赞

## 二进制运算误差 ##

public void fun2() {
      System.out.println(2.0 - 1.1);// 0.8999999999999999
    }
    
    /** * 1000的阶乘 */
    
    public void fun3() {
      BigInteger sum = BigInteger.valueOf(1);
      for (int i = 1; i <= 1000; i++) {
        BigInteger bi = BigInteger.valueOf(i);
        sum = sum.multiply(bi);
      }
      System.out.println(sum);
    }
    
    /** * BigDecimal 可以处理二进行运算导致的误差 */
    
    public void fun4() {
      /* * 1. 创建BigDecimal对象时，必须使用String构造器！ */
      BigDecimal d1 = new BigDecimal("2.0");
      BigDecimal d2 = new BigDecimal("1.1");
      BigDecimal d3 = d1.subtract(d2);
    
      System.out.println(d3);
    }

## BigInteger ##

## BigDecimal ##

[http://blog.csdn.net/axi295309066/article/details/47448431?locationNum=2&fps=1\#t24][http_blog.csdn.net_axi295309066_article_details_47448431_locationNum_2_fps_1_t24]

[http_blog.csdn.net_axi295309066_article_details_47448431_locationNum_2_fps_1_t24]: http://blog.csdn.net/axi295309066/article/details/47448431?locationNum=2&fps=1#t24

发表评论取消回复

表情：

评论列表（有 0 条评论，185人围观）

还没有评论，来说两句吧...

相关阅读

相关【二进制】 java中的二进制位运算与或异或运算

与运算：都为1 则为1 > 1 & 1 =1 > 0 & 1 = 0 > 0 & 0 = 0 > 1 & 0 = 0 或运算： 1个1 就为1 > 1 |

深碍√TFBOYSˉ_/ 2024年04月06日 12:22/ 0 赞/ 87 阅读

相关二进制的运算

二进制的运算位与（&）位或（|）异或（^）取反常见位运算问题位操作实现乘除法位操作交换两数

红太狼/ 2024年03月23日 17:39/ 0 赞/ 65 阅读

相关【二进制和位运算】一、认识二进制和位运算

文章目录一、什么是二进制，它和十进制的区别是什么？二、二进制和十进制如何相互转换？三、算法基础之位运算四、经典面试题

阳光穿透心脏的1/2处/ 2023年10月09日 14:23/ 0 赞/ 14 阅读

相关平均误差、相对误差百分数、均方根误差

一、平均误差 average(反演值-真值）反演值就是通过模型反演出来的值，也就是理想值，而真值就是实际测出来的值。二、相对误差百分数 average\{A

╰+攻爆jí腚メ/ 2022年11月11日 05:29/ 0 赞/ 437 阅读

相关 693 交替位二进制数（位运算）

1. 问题描述：给定一个正整数，检查它的二进制表示是否总是 0、1 交替出现：换句话说，就是二进制表示中相邻两位的数字永不相同。示例 1：输入：n = 5 输出

雨点打透心脏的1/2处/ 2022年09月03日 10:19/ 0 赞/ 170 阅读

相关二进制运算误差问题

二进制运算误差 public void fun2() { System.out.println(2.0 - 1.1);// 0.89999999999

柔光的暖阳◎/ 2022年07月15日 06:26/ 0 赞/ 186 阅读

相关 java_位运算加法_8位二进制

package algorithm; import java.util.Scanner; /\\将二进制字符串转为int 例如00000111转化成int 7而不是

冷不防/ 2022年06月13日 03:18/ 0 赞/ 270 阅读

相关二进制知识之位运算,

如果您是一名软件开发的从业人员,并且不知道下面的运算结果的话认真理解这篇文章或许可以帮助到你,本文转载不需要联系作者,也不用注明出处的,能帮助到你，觉得有用的话可以随意

你的名字/ 2022年06月12日 20:39/ 0 赞/ 316 阅读

相关位运算与二进制学习

需要了解二进制码，5 的二进制码是 101， java 提供方法可以将十进制转换成二进制将 5 转换成二进制 Integer.toUnsignedStri

素颜马尾好姑娘i/ 2022年05月25日 23:17/ 0 赞/ 216 阅读

相关 java关于数学运算，小数运算的误差问题

float和double在计算的时候有一下小误差 \----------------------------------------- 解决方案1：就是把小数变成

迷南。/ 2022年05月23日 09:22/ 0 赞/ 203 阅读