mysql 查询double_Mysql Double查询进度丢失，在java程序里面解决。

骑猪看日落 2023-01-12 01:51 112阅读 0赞

问题

在mysql 中，为了大胆使用double,减少对积分账号比率问题描述，但是又多出了浮点的问题。

![5822e842340b?utm\_campaign=maleskine&utm\_content=note&utm\_medium=seo\_notes&utm\_source=recommendation][5822e842340b_utm_campaign_maleskine_utm_content_note_utm_medium_seo_notes_utm_source_recommendation]

从图中可以看出，保存在库里的值也开始丢失精度

首先得明白一个问题就是，计算机如何保持小数点的问题。

十进制小数如何转化为二进制数

算法是乘以2直到没有了小数为止。举个例子，0.9表示成二进制数

0.9\*2=1.8 取整数部分 1

0.8(1.8的小数部分)\*2=1.6 取整数部分 1

0.6\*2=1.2 取整数部分 1

0.2\*2=0.4 取整数部分 0

0.4\*2=0.8 取整数部分 0

0.8\*2=1.6 取整数部分 1

0.6\*2=1.2 取整数部分 0

......... 0.9二进制表示为(从上往下): 1100100100100......

注意：上面的计算过程循环了，也就是说\*2永远不可能消灭小数部分，这样算法将无限下去。很显然，小数的二进制表示有时是不可能精确的 。其实道理很简单，十进制系统中能不能准确表示出1/3呢？同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。

结合问题发现double 类型保持13位小数比较安全

在java代码加入对小数数量问题进行处理

private static int getNumberDecimalDigits(Double balance) \{

int decimalDigits = 0;

String balanceStr = Double.toString(balance);

int indexOf = balanceStr.indexOf(".");

if(indexOf > 0)\{

decimalDigits = balanceStr.length() - 1 - indexOf;

\}

return decimalDigits;

\}

public static void main(String\[\] args)\{

Double balance = 1.0499999999999925;

int decimalDigits = getNumberDecimalDigits(balance);

System.out.println(decimalDigits);

if(decimalDigits >= 13)\{

BigDecimal eachNumberDecimal = new BigDecimal(balance);

balance = eachNumberDecimal.setScale(13, BigDecimal.ROUND\_UP).doubleValue();

\}

System.out.println(balance);

\}

测试结果

16

1.05

参考

[5822e842340b_utm_campaign_maleskine_utm_content_note_utm_medium_seo_notes_utm_source_recommendation]: /images/20221119/ca3ec4330909430783d8f8146a4b04ff.png

发表评论取消回复

表情：

评论列表（有 0 条评论，112人围观）

还没有评论，来说两句吧...

相关阅读

相关 Double计算丢失精度

System.out.println("-------double计算"); Double num = 82.8560;

比眉伴天荒/ 2024年04月08日 10:50/ 0 赞/ 66 阅读

相关 java项目上线mysql查询慢_Java Web应用程序在缓慢的MySQL查询中停滞不前

我有一个使用 Java servlet编写的Web应用程序.我使用Tomcat 7作为我的servlet引擎,但之前使用过Glassfish并且遇到了完全相同的问题. 有问

梦里梦外;/ 2023年01月12日 07:48/ 0 赞/ 97 阅读

相关 mysql 查询double_Mysql Double查询进度丢失，在java程序里面解决。

问题在mysql 中，为了大胆使用double,减少对积分账号比率问题描述，但是又多出了浮点的问题。 ![5822e842340b?utm\_campaign=males

骑猪看日落/ 2023年01月12日 01:51/ 0 赞/ 113 阅读

相关 JAVA微信进件进度查询

查询进度前先看前面两篇进件文章特约商户进件： [https://blog.csdn.net/qq\_40618664/article/details/11121641

曾经终败给现在/ 2022年12月28日 07:47/ 0 赞/ 105 阅读

相关 ElasticSearch里面的偏好查询

在es查询的时候我们可以控制Preference，来完成特定shard或节点上的数据查询，默认情况下查询是随机的。假如现在我们有一份索引5个shard和3个副本，当一个查询

た入场券/ 2022年06月13日 01:17/ 0 赞/ 201 阅读

相关 mysql 在查询结果中进行二次查询

第一次查询：查询身份证编号和出现次数 select cardid,count(cardid) as total from p_person_info group by

朴灿烈づ我的快乐病毒、/ 2022年06月03日 06:50/ 0 赞/ 378 阅读

相关 ElasticSearch里面的偏好查询

在es查询的时候我们可以控制Preference，来完成特定shard或节点上的数据查询，默认情况下查询是随机的。假如现在我们有一份索引5个shard和3个副

淩亂°似流年/ 2022年04月06日 08:51/ 0 赞/ 254 阅读

相关 hibernate里面用in查询

hibernate中各种类型的查询条件拼接：一、正常的传参查询(精确查询) String shopAttendanceCode = queryHash.get("shop

快来打我*/ 2022年03月02日 04:42/ 0 赞/ 640 阅读

相关 Mysql查询---条件查询

条件查询支持的运算符：运算符说明 = 等于 <>或者!= 不等于 < 小于 <= 小于等于 > 大于

深藏阁楼爱情的钟/ 2022年02月13日 06:37/ 0 赞/ 444 阅读

相关 double精度丢失问题

double精度丢失问题从二进制角度考虑问题就会很简单了：把「0.1」转成二进制然后还原成十进制，就能看出问题。这是二进制与十进制之间的碰撞这是机器与

叁歲伎倆/ 2021年09月22日 02:52/ 0 赞/ 516 阅读