double类型相加(減、乘、除)结果会有些误差 |
您所在的位置：网站首页 › double类型变量举例 › double类型相加(減、乘、除)结果会有些误差 |
|
前提介绍
今天在调试代码的时候发现了一个double类型数据相减的有趣问题，148163.1 - 82692.09大家猜猜结果等于多少，经过调试最终为5471.010000000009。 是不是很奇怪，下面将说明这其中的奥妙！ 原因说明double属于floating binary point types，也就是说都double型的数值在相加减的时候，会将数值转换成二进制的数值如10001.10010110011这种表示发再做相加减，但是在转换成二进制代码表示的时候，存储小数部分的位数会有不够的现象，即无限循环小数，这就是造成微差距的主要原因。 解决方法1.只取需要用到的位数： 小数点台后面的位数部分就不要管了，不过这种方法不太好。 2.使用Decimal类型： 用Decimal就不会出现上面的问题了，可以准确的计算小数值，知识Decimal的范围比double小，一般情况下也够用了。 Decimal类型的有效位数达到28位，而double类型的16位，所以Decimal类型比Double类型能表示更精确的浮点数。 总结1.在double类型数值进行比较大小的情况最好使用1.02-1.01==double.MinValue这种方式进行判断 2.使用double类型进行加减的情况下看看能否使用Decimal类型进行计算
package org.lxh.demo11.numberdemo; import java.math.BigDecimal; class MyMath { public static double add(double d1, double d2) { // 进行加法运算 BigDecimal b1 = new BigDecimal(d1); BigDecimal b2 = new BigDecimal(d2); return b1.add(b2).doubleValue(); } public static double sub(double d1, double d2) { // 进行减法运算 BigDecimal b1 = new BigDecimal(d1); BigDecimal b2 = new BigDecimal(d2); return b1.subtract(b2).doubleValue(); } public static double mul(double d1, double d2) { // 进行乘法运算 BigDecimal b1 = new BigDecimal(d1); BigDecimal b2 = new BigDecimal(d2); return b1.multiply(b2).doubleValue(); } public static double div(double d1, double d2,int len) {// 进行除法运算 BigDecimal b1 = new BigDecimal(d1); BigDecimal b2 = new BigDecimal(d2); return b1.divide(b2,len,BigDecimal. ROUND_HALF_UP).doubleValue(); } public static double round(double d, int len) { // 进行四舍五入 操作 BigDecimal b1 = new BigDecimal(d); BigDecimal b2 = new BigDecimal(1); // 任何一个数字除以1都是原数字 // ROUND_HALF_UP是BigDecimal的一个常量， 表示进行四舍五入的操作 return b1.divide(b2, len,BigDecimal. ROUND_HALF_UP).doubleValue(); } } public class BigDecimalDemo01 { public static void main(String[] args) { System.out.println("加法运算：" + MyMath.round(MyMath.add(10.345, 3.333), 1)); System.out.println("乘法运算：" + MyMath.round(MyMath.mul(10.345, 3.333), 3)); System.out.println("除法运算：" + MyMath.div(10.345, 3.333, 3)); System.out.println("减法运算：" + MyMath.round(MyMath.sub(10.345, 3.333), 3)); } } |
今日新闻 |
推荐新闻 |
| CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3 |