Bigdecimal.divide()方法使用注意事项

我不是女神ヾ 2022-12-21 15:00 162阅读 0赞

1.工作记录

BigDecimal fee = new BigDecimal("0.1");
            BigDecimal doubleParamFee = new BigDecimal(0.1);
            BigDecimal rate = new BigDecimal("1.05");
            BigDecimal div = fee.divide(rate,RoundingMode.DOWN);
            BigDecimal vat = fee.subtract(div);
    
            System.out.println("fee:"+fee);
            System.out.println("doubleParamFee:"+doubleParamFee);
            System.out.println("div:"+div);
            System.out.println("vat:"+vat);
    
            // 输出
            fee:0.1
            doubleParamFee:0.1000000000000000055511151231257827021181583404541015625
            div:0.0
            vat:0.1

Bigdecimal的除法精度保存的是分子的scale:

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM4MTgzNzQ_size_16_color_FFFFFF_t_70][]

例子中分子0.1的精度是1位，虽然0.1/1.05=0.09523809523809523，但是按照分子只保留一位精度结果等于0.0=0，故我们在使用Bigdecimal除法时需指定其精度（使用另一个构造方法）以期得到我们想要的结果。

BigDecimal div = fee.divide(rate,18,RoundingMode.DOWN);

入参就指定精度结果会得到正确的0.09523809523809523。

Bigdecimal入参是最好使用字符串入参，如果使用double类型入参会精度丢失，如图一0.1入参Bigdecimal时得到的结果是0.1000000000000000055511151231257827021181583404541015625，而使用String类型入参则得到正确的0.1。

仅做记录。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3UwMTM4MTgzNzQ_size_16_color_FFFFFF_t_70]: /images/20221120/e51be66ad6c8483d94c83aeb1e51ef53.png

发表评论取消回复

表情：

评论列表（有 0 条评论，162人围观）

还没有评论，来说两句吧...

相关阅读

相关 Java List retainAll方法使用注意事项

们知道在Java中求两个集合的交集可以使用List 的retainAll方法 List<String> strList1 = new ArrayList<>()...

川长思鸟来/ 2024年04月18日 21:27/ 0 赞/ 75 阅读

相关 Bigdecimal.divide()方法使用注意事项

1.工作记录 BigDecimal fee = new BigDecimal("0.1"); BigDecimal doubleParamFe

我不是女神ヾ/ 2022年12月21日 15:00/ 0 赞/ 163 阅读

相关使用mysql注意事项_使用MySQL的注意事项

安装MySQL时候的注意事项？ 1、如果您是用MySQL+Apache，使用的又是FreeBSD网路操作系统的话，安装时候你应按注意到FreeBSD的版本问题，在FreeBS

我会带着你远行/ 2022年10月25日 01:44/ 0 赞/ 303 阅读

相关 CTE的使用方法和注意事项

我先简单介绍一下CTE(Common Table Expression)是什么 ,然后简要介绍下用法和注意事项什么是CTE:Common Table Expression:

忘是亡心i/ 2022年09月18日 10:47/ 0 赞/ 306 阅读

相关 CFileDialog使用注意事项

使用MFC编程的时候会使用CFileDialog对文件夹或者文件路径的获取.但是在使用时候注意如下这个函数 CString GetFolderPath() const

青旅半醒/ 2022年08月18日 08:17/ 0 赞/ 314 阅读

相关方法的使用注意事项

方法使用注意事项：　　1、方法不能定义在另一个方法的里面　　2、写错方法名字　　3、写错了参数列表　　4、方法的返回值是void，方法中可以省略retu

以你之姓@/ 2022年04月24日 02:08/ 0 赞/ 412 阅读

相关 @Async使用注意事项

使用注意事项：启动类上添加注解@EnableAsync，用于开启异步；方法上加@Async注解；　　使

不念不忘少年蓝@/ 2021年10月19日 02:26/ 0 赞/ 566 阅读

相关 fiddle使用注意事项

![Center][] [Center]: /images/20210923/724c99ea5f3e4d11ae5d6f8f8a997d67.png

￡神魔★判官ぃ/ 2021年09月26日 11:44/ 0 赞/ 482 阅读

相关 fiddle使用注意事项

![Center][] [Center]: /images/20210923/d5822df7f0814eab8471f85cedbed36d.png

女爷i/ 2021年09月26日 11:22/ 0 赞/ 539 阅读

相关 @RequestBody 的使用方法和注意事项

使用@RequestBody注解时，是用于接收Content-Type为application/json类型的请求,数据类型是JSON：\{"aaa":"111","bbb":

落日映苍穹つ/ 2021年09月18日 03:02/ 0 赞/ 542 阅读