二进制运算误差问题

柔光的暖阳◎ 2022-07-15 06:26 171阅读 0赞

## 二进制运算误差 ##

public void fun2() {
      System.out.println(2.0 - 1.1);// 0.8999999999999999
    }
    
    /** * 1000的阶乘 */
    
    public void fun3() {
      BigInteger sum = BigInteger.valueOf(1);
      for (int i = 1; i <= 1000; i++) {
        BigInteger bi = BigInteger.valueOf(i);
        sum = sum.multiply(bi);
      }
      System.out.println(sum);
    }
    
    /** * BigDecimal 可以处理二进行运算导致的误差 */
    
    public void fun4() {
      /* * 1. 创建BigDecimal对象时，必须使用String构造器！ */
      BigDecimal d1 = new BigDecimal("2.0");
      BigDecimal d2 = new BigDecimal("1.1");
      BigDecimal d3 = d1.subtract(d2);
    
      System.out.println(d3);
    }

## BigInteger ##

## BigDecimal ##

[http://blog.csdn.net/axi295309066/article/details/47448431?locationNum=2&fps=1\#t24][http_blog.csdn.net_axi295309066_article_details_47448431_locationNum_2_fps_1_t24]

[http_blog.csdn.net_axi295309066_article_details_47448431_locationNum_2_fps_1_t24]: http://blog.csdn.net/axi295309066/article/details/47448431?locationNum=2&fps=1#t24

发表评论取消回复

表情：

评论列表（有 0 条评论，171人围观）

还没有评论，来说两句吧...

相关阅读

相关【二进制】 java中的二进制位运算与或异或运算

与运算：都为1 则为1 > 1 & 1 =1 > 0 & 1 = 0 > 0 & 0 = 0 > 1 & 0 = 0 或运算： 1个1 就为1 > 1 |

深碍√TFBOYSˉ_/ 2024年04月06日 12:22/ 0 赞/ 72 阅读

相关二进制中1的个数（位运算）

上一个博客写了两种计算二进制中1的个数（[https://blog.csdn.net/qq\_41575507/article/details/104964219][https

偏执的太偏执、/ 2023年07月17日 06:06/ 0 赞/ 4 阅读

相关二进制中1的个数（位运算）

题目描述：输入一个函数，输出该数二进制表示中1的个数。（例如：9的二进制为1001，有两个1，所以输出2）解题思路：可以直接使用位运算中的与运算（&）来做这道题目。用1从右

╰半夏微凉°/ 2023年07月17日 02:57/ 0 赞/ 3 阅读

相关平均误差、相对误差百分数、均方根误差

一、平均误差 average(反演值-真值）反演值就是通过模型反演出来的值，也就是理想值，而真值就是实际测出来的值。二、相对误差百分数 average\{A

╰+攻爆jí腚メ/ 2022年11月11日 05:29/ 0 赞/ 423 阅读

相关 693 交替位二进制数（位运算）

1. 问题描述：给定一个正整数，检查它的二进制表示是否总是 0、1 交替出现：换句话说，就是二进制表示中相邻两位的数字永不相同。示例 1：输入：n = 5 输出

雨点打透心脏的1/2处/ 2022年09月03日 10:19/ 0 赞/ 156 阅读

相关二进制运算误差问题

二进制运算误差 public void fun2() { System.out.println(2.0 - 1.1);// 0.89999999999

柔光的暖阳◎/ 2022年07月15日 06:26/ 0 赞/ 172 阅读

相关 java_位运算加法_8位二进制

package algorithm; import java.util.Scanner; /\\将二进制字符串转为int 例如00000111转化成int 7而不是

冷不防/ 2022年06月13日 03:18/ 0 赞/ 256 阅读

相关二进制知识之位运算,

如果您是一名软件开发的从业人员,并且不知道下面的运算结果的话认真理解这篇文章或许可以帮助到你,本文转载不需要联系作者,也不用注明出处的,能帮助到你，觉得有用的话可以随意

你的名字/ 2022年06月12日 20:39/ 0 赞/ 298 阅读

相关位运算与二进制学习

需要了解二进制码，5 的二进制码是 101， java 提供方法可以将十进制转换成二进制将 5 转换成二进制 Integer.toUnsignedStri

素颜马尾好姑娘i/ 2022年05月25日 23:17/ 0 赞/ 196 阅读

相关 java关于数学运算，小数运算的误差问题

float和double在计算的时候有一下小误差 \----------------------------------------- 解决方案1：就是把小数变成

迷南。/ 2022年05月23日 09:22/ 0 赞/ 194 阅读