之前有写过一篇浮点精度的文章,介绍了浮点数能够精确表示的整数,在整数超过一定大小后,将不能精确被表示,这次来聊一下浮点能表示的小数部分。先看一段简单的代码:
public class Test {
public static void main(String[] args) {
float a1 = 0.3f;
double a2 = 0.3;
float b1 = 0.5f;
double b2 = 0.5;
float c1 = 0.7f;
double c2 = 0.7;
System.out.println(a1 > a2);
System.out.println(a1 == a2);
System.out.println(a1 < a2);
System.out.println();
System.out.println(b1 > b2);
System.out.println(b1 == b2);
System.out.println(b1 < b2);
System.out.println();
System.out.println(c1 > c2);
System.out.println(c1 == c2);
System.out.println(c1 < c2);
System.out.println();
}
}
针对0.3、0.5、0.7的单精度和双精度的比较,谁会大一些呢? 不妨先思考一下。
让我们来看下结果:
true
false
false
false
true
false
false
false
true
转换一下结果如下:
0.3f > 0.3
0.5f = 0.5
0.7f < 0.7
这个结果会不会很吃惊,下面来具体分析下产生这个问题的原因。
原理分析
浮点数在计算机中的存储采用 IEEE 754标准,数据块分为符号位、指数位、尾数位,单精度和双精度各部分位数长度如下:
当一个浮点数不能被精确存储时,需要进行舍入操作,IEEE标准中列举出了几种:
- 舍入到最接近:舍入到最接近,在一样接近的情况下偶数优先,即在二进制中式以0结尾的,这种也即默认的舍入方式;
- 朝+∞方向舍入:将结果朝正无限大的方向舍入。
- 朝-∞方向舍入:将结果朝负无限大的方向舍入。
- 朝0方向舍入:将结果朝0的方向舍入。
单精度浮点数和双精度浮点数在比较时,单精度浮点数将会转变为双精度浮点数后再进行比较,再来思考一下上述例子,谁大谁小其实是要看浮点数能够精确表示,不能表示的情况下,在做尾数入舍的时候,是入还是舍。
具体看下0.3、0.5和0.7的单精度模式下二进制表示:
0.3
存储: 0 01111101 00110011001100110011010
计算: 0 01111101 00110011001100110011001 1001...
0.5
存储: 0 01111110 00000000000000000000000
计算: 0 01111110 00000000000000000000000 0000...
0.7
存储: 0 01111110 01100110011001100110011
计算: 0 01111110 01100110011001100110011 0011001...
存储表示实际在内存中值,计算表示使用数学计算,在尾数无限长的情况下的值;
可以看出,单精度场景下,按照舍入到最接近原则,0.3的最后一位被入上来了,所以比较时,单精度的0.3更大;0.5能够精确的表示出来,所以单双精度相等;0.7的最后一位则被舍去,所以比较时,双精度的0.3更大。
小结
梳理清楚了浮点数的存储,那么浮点数该怎么比较呢?一般来讲,可以设定一个比较小的误差,如0.0001,两个浮点数差值小于该误差,则认为相等,具体误差值的设定需要根据场景。
如有任何知识产权、版权问题或理论错误,还请指正。
转载请注明原作者及以上信息。