【问题标题】:what is happening when l(long) -= f(float)? [duplicate]当 l(long) -= f(float) 时会发生什么? [复制]
【发布时间】:2017-03-13 08:35:49
【问题描述】:
public class SimplePrint {

public static void main(String[] args) {
    long i = System.currentTimeMillis();
    System.out.println(i);
    float h = 0.0f;
    i -= h;
    System.out.println(i);
  }
}

输出是:

1477904636902

1477904695296

但是当我改变了 h 变量的数据类型时

public class SimplePrint {

public static void main(String[] args) {
    long i = System.currentTimeMillis();
    System.out.println(i);
    double h = 0.0f;
    i -= h;
    System.out.println(i);
  }
}

输出改变了:

1477904677513

1477904677513

这是为什么???

【问题讨论】:

  • 可能是舍入错误。浮点数不够精确,无法处理这么大的数字。
  • i -= h; 将扩展为 i = i - h; 并以浮点数进行计算,然后转换回 long 并失去其精度。
  • @NiyokoYuliawan 提示:只要一两句话,你就会有一个好的答案来投票。在其他人之前...所以,以防万一声誉对您很重要:您已经准备好 80% 的答案...现在为时已晚,因为我关闭了问题...

标签: java type-conversion


【解决方案1】:

如JLS Sec 15.26.2 中所述,复合赋值运算符E1 op= E2 等价于

E1 = (T) ((E1) op (E2))

其中 T 是 E1 的类型。

那么,你在第一种情况下所做的是:

i = (long) (i - 0.0f)

为了评估-,i 必须转换为float,如JLS Sec 15.18.2 中所述:

对操作数执行二进制数字提升(第 5.6.2 节)。

和5.6.2:

否则,如果任一操作数为浮点类型,则将另一个转换为浮点类型。

问题在于i 的值不能精确地表示为float:因为float 只有24 位有效数字(see here),只有2^24 左右的值(=16777216 ) 可以精确表示;但是当前的毫秒时间(至少在我的机器上)大约是 1477905410000,这要大得多。

因此,您在转换为浮点数时会丢失精度,并且在转换回 long 时无法恢复该精度。

【讨论】:

    【解决方案2】:

    你的代码基本上是:

    i = (long) (float) i;
    

    或

    i = (long) (double) i;
    

    现在,在 Java 中,float 有 23 位精度,而 double 有 52 位。1477904677513 有 40 位 - 10101100000011001111110111011101010001001,所以当转换为浮点数时,你会丢失底部的 17 位,所以你会看到值发生变化。

    【讨论】:

      猜你喜欢
      • 2021-11-01
      • 1970-01-01
      • 2022-07-15
      • 1970-01-01
      • 2015-11-26
      • 2018-04-08
      • 2013-04-01
      • 2019-01-05
      • 1970-01-01
      相关资源
      最近更新 更多