Java—Double类型进行加减乘除出错(精度)问题
创始人
2024-01-20 22:48:33
0

前言:

我们知道,计算机在计算数据过程中都要先把源代码翻译成二进制的机器码,然后再进行相关的运算。然而在转换的过程中,有些十进制数无法用一个有限的二进制数来表示,就是说转换的时候出现了精度的丢失问题,所以导致最后在运算的过程中,自然就出现了我们出现的精度问题。

整体思路是先将 double 类型的数据转换成 BigDecimal 来进行运算,

目录

一、加法运算        

不做处理时:

 BigDecimal 处理后:

二、减法运算

不做处理时:

 BigDecimal 处理后:

三、乘法运算

不做处理时:

 BigDecimal 处理后:

四、除法运算(Double数相除,并保留scale位小数)

不做处理时:

 BigDecimal 处理后:

五、double与int运算

 不做处理时:

 BigDecimal 处理后:


一、加法运算        

不做处理时:

public static void main(String[] args) {double m1=0.1;double m2=0.2;System.out.println(m1+m2);}

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {double m1=0.1;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p1.add(p2).doubleValue());}

 运行结果:

二、减法运算

不做处理时:

public static void main(String[] args) {double m1=0.11;double m2=0.2;System.out.println(m2-m1);}

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {double m1=0.11;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p2.subtract(p1).doubleValue());}

 运行结果:

三、乘法运算

不做处理时:

public static void main(String[] args) {double m1=0.1;double m2=0.2;System.out.println(m1*m2);}

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {double m1=0.1;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p1.multiply(p2).doubleValue());}

 运行结果:

四、除法运算(Double数相除,并保留scale位小数)

BigDecimal.ROUND_HALF_UP表示四舍五入,

BigDecimal.ROUND_HALF_DOWN是五舍六入,

BigDecimal.ROUND_UP表示进位处理(就是直接加1),

BigDecimal.ROUND_DOWN表示直接去掉尾数。

不做处理时:

public static void main(String[] args) {double m1=0.14;double m2=0.3;System.out.println(m1/m2);}

运行结果:

 

 BigDecimal 处理后:

public static void main(String[] args) {double m1=0.14;double m2=0.3;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));//3代表要保留的位数System.out.println(p1.divide(p2,3,BigDecimal.ROUND_HALF_UP).doubleValue());}

 运行结果:

 

五、double与int运算

 不做处理时:

public static void main(String[] args) {int m1=3;double m2=0.3;System.out.println(m1*m2);}

运行结果:

 BigDecimal 处理后:

public static void main(String[] args) {int m1=3;double m2=0.3;BigDecimal p=new BigDecimal(Double.toString(m1));BigDecimal n=new BigDecimal(Double.toString(m2));System.out.println(p.multiply(n).doubleValue());}

 运行结果:

 

相关内容

热门资讯

喜欢穿一身黑的男生性格(喜欢穿... 今天百科达人给各位分享喜欢穿一身黑的男生性格的知识,其中也会对喜欢穿一身黑衣服的男人人好相处吗进行解...
发春是什么意思(思春和发春是什... 本篇文章极速百科给大家谈谈发春是什么意思,以及思春和发春是什么意思对应的知识点,希望对各位有所帮助,...
网络用语zl是什么意思(zl是... 今天给各位分享网络用语zl是什么意思的知识,其中也会对zl是啥意思是什么网络用语进行解释,如果能碰巧...
为什么酷狗音乐自己唱的歌不能下... 本篇文章极速百科小编给大家谈谈为什么酷狗音乐自己唱的歌不能下载到本地?,以及为什么酷狗下载的歌曲不是...
华为下载未安装的文件去哪找(华... 今天百科达人给各位分享华为下载未安装的文件去哪找的知识,其中也会对华为下载未安装的文件去哪找到进行解...
怎么往应用助手里添加应用(应用... 今天百科达人给各位分享怎么往应用助手里添加应用的知识,其中也会对应用助手怎么添加微信进行解释,如果能...
家里可以做假山养金鱼吗(假山能... 今天百科达人给各位分享家里可以做假山养金鱼吗的知识,其中也会对假山能放鱼缸里吗进行解释,如果能碰巧解...
一帆风顺二龙腾飞三阳开泰祝福语... 本篇文章极速百科给大家谈谈一帆风顺二龙腾飞三阳开泰祝福语,以及一帆风顺二龙腾飞三阳开泰祝福语结婚对应...
美团联名卡审核成功待激活(美团... 今天百科达人给各位分享美团联名卡审核成功待激活的知识,其中也会对美团联名卡审核未通过进行解释,如果能...
四分五裂是什么生肖什么动物(四... 本篇文章极速百科小编给大家谈谈四分五裂是什么生肖什么动物,以及四分五裂打一生肖是什么对应的知识点,希...