【问题标题】:nan double in objective c目标c中的nan double
【发布时间】:2012-11-28 20:06:24
【问题描述】:

我有这个等式

double x = ((newCount/allCount)/.8)*5.0;

newCount 是一个值为 0 的 double allCount 是一个值为 0 的双精度数

x 的结果是-nan(0x8000000000000)

为什么会发生这种情况以及如何在 objective c 中检查此值以为其分配默认值

【问题讨论】:

  • 会不会是因为你除以零?除了 NaN 之外,这很少会留下有用的结果。
  • @Henrik Beyond NaN 加/减无穷大。

标签: objective-c double division nan multiplication


【解决方案1】:

你是diving by zero。您可以使用以下方法进行检查:

isnan(x)

【讨论】:

【解决方案2】:

问题是分母(allCount)是0;不允许除以零,答案不是数字。您可以做的最简单的事情是在进行除法之前对其进行测试:

if (allCount != 0) {
  x = ((newCount/allCount)/.8)*5.0
} else {
  x = defaultValue;
}

使用 C 的浮点环境和测试 FE_DIVBYZERO 异常有更复杂的方法,但虽然这是标准的,但它很少使用,因此对于以后的代码读者来说可能更难理解。

【讨论】:

    【解决方案3】:

    allCount 为 0,因此您只需除以 0(如果您不知道,这是不可能的。)因此,在分配 x 之前,请先确保 allCount 不为 0。

    if (allCount != 0)
        double x = ((newCount/allCount)/.8)*5.0;
    

    【讨论】:

      猜你喜欢
      • 2014-01-16
      • 2021-06-02
      • 1970-01-01
      • 2011-04-01
      • 2017-06-09
      • 2013-08-19
      • 2016-06-03
      • 2015-04-30
      • 2019-10-27
      相关资源
      最近更新 更多