前言:
我们知道,计算机在计算数据过程中都要先把源代码翻译成二进制的机器码,然后再进行相关的运算。然而在转换的过程中,有些十进制数无法用一个有限的二进制数来表示,就是说转换的时候出现了精度的丢失问题,所以导致最后在运算的过程中,自然就出现了我们出现的精度问题。
整体思路是先将 double 类型的数据转换成 BigDecimal 来进行运算,
目录
一、加法运算
不做处理时:
BigDecimal 处理后:
二、减法运算
不做处理时:
BigDecimal 处理后:
三、乘法运算
不做处理时:
BigDecimal 处理后:
四、除法运算(Double数相除,并保留scale位小数)
不做处理时:
BigDecimal 处理后:
五、double与int运算
不做处理时:
BigDecimal 处理后:
不做处理时:
public static void main(String[] args) {double m1=0.1;double m2=0.2;System.out.println(m1+m2);}
运行结果:
BigDecimal 处理后:
public static void main(String[] args) {double m1=0.1;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p1.add(p2).doubleValue());}
运行结果:
不做处理时:
public static void main(String[] args) {double m1=0.11;double m2=0.2;System.out.println(m2-m1);}
运行结果:
BigDecimal 处理后:
public static void main(String[] args) {double m1=0.11;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p2.subtract(p1).doubleValue());}
运行结果:
不做处理时:
public static void main(String[] args) {double m1=0.1;double m2=0.2;System.out.println(m1*m2);}
运行结果:
BigDecimal 处理后:
public static void main(String[] args) {double m1=0.1;double m2=0.2;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));System.out.println(p1.multiply(p2).doubleValue());}
运行结果:
BigDecimal.ROUND_HALF_UP表示四舍五入,
BigDecimal.ROUND_HALF_DOWN是五舍六入,
BigDecimal.ROUND_UP表示进位处理(就是直接加1),
BigDecimal.ROUND_DOWN表示直接去掉尾数。
不做处理时:
public static void main(String[] args) {double m1=0.14;double m2=0.3;System.out.println(m1/m2);}
运行结果:
BigDecimal 处理后:
public static void main(String[] args) {double m1=0.14;double m2=0.3;BigDecimal p1 = new BigDecimal(Double.toString(m1));BigDecimal p2 = new BigDecimal(Double.toString(m2));//3代表要保留的位数System.out.println(p1.divide(p2,3,BigDecimal.ROUND_HALF_UP).doubleValue());}
运行结果:
不做处理时:
public static void main(String[] args) {int m1=3;double m2=0.3;System.out.println(m1*m2);}
运行结果:
BigDecimal 处理后:
public static void main(String[] args) {int m1=3;double m2=0.3;BigDecimal p=new BigDecimal(Double.toString(m1));BigDecimal n=new BigDecimal(Double.toString(m2));System.out.println(p.multiply(n).doubleValue());}
运行结果:
下一篇:C#重启 --- 枚举