【问题标题】:Trying to prevent overflow when adding two longs添加两个长时试图防止溢出
【发布时间】:2016-12-20 05:47:49
【问题描述】:

我试图在两种情况下防止溢出,一种是将long与float相乘,另一种是将两个long相加。

喜欢:

public static long multiplyLong(long value, float multiplier)
{
    if (value * multiplier > long.MaxValue)
    {
        Debug.Log("greater then max value");
        return value = long.MaxValue;
    }
    else
    {
        Debug.Log("not greater then max value");
        return (long) (value * multiplier);
    }
}

public static long addLong(long value, long adder)
{
    if(value + adder > long.MaxValue)
    {
        Debug.Log("greater then max value");
        return value = long.MaxValue;
    }
    else
    {
        Debug.Log("not greater then max value");
        return value + adder;
    }
}

“multiplyLong”可以完美运行,而“addLong”则不能正常运行。使用 addLong 时,会出现溢出,它不会检测到溢出。我认为这很奇怪,因为代码看起来还可以。

有人可以帮我吗?

“检查”不是一个选项。

【问题讨论】:

  • 如果您经常使用long 溢出。您可能应该使用不同的数据类型,例如 floatdecimal
  • 您能解释一下为什么checked 不适合您吗?因为它似乎正是为这种情况而设计的。

标签: c# unity3d overflow long-integer


【解决方案1】:

就像@Bradley 所说,您在检查溢出时遇到了溢出。但问题远不止于此。

让我们先看看这一行

if(value + adder > long.MaxValue)

这里,valueadder 都是长整数,将它们加在一起会得到长整数。但问题是 long 会自动翻转而不是抛出异常,所以如果你的值大于 long 的最大值,你会看似随机地得到一些其他的 long 值。

现在应该清楚为什么您不想这样做了,但在我们了解正确的解决方案之前,让我们看看您的 multiplyLong 方法。具体来说,下面这行

if (value * multiplier > long.MaxValue)

在此value 是一个长整数,multiplier 是一个浮点数,将它们相乘得到一个浮点数,可以很容易地与长整数进行检查,因此您的检查似乎会起作用。

但是如果value * multiplier 的值大于long.MaxValue 并将其转换为long 怎么办?

答案是你得到long.MinValue,肯定小于long.MaxValue

关于这个话题还有很多可以说的,但这应该足以让你相信你所做的并不好。

现在,你应该怎么做?我推荐使用decimal 类型有两个原因。一,它的范围比long大得多(decimal可以上到79228162514264337593543950335,而long只能上到9223372036854775807),另一个原因是它在发生溢出时抛出显式异常.

例如,这是我重写的代码版本

public static long multiplyLong(decimal value, decimal multiplier)
{
    try
    {
        return value*multiplier;
    }
    catch (OverflowException e)
    {
        Debug.Log("greater then max value");
        return decimal.MaxValue;
    }

}

public static long addLong(decimal value, decimal adder)
{
    try
    {
        return value+adder;
    }
    catch (OverflowException e)
    {
        Debug.Log("greater then max value");
        return decimal.MaxValue;
    }
}

【讨论】:

    【解决方案2】:

    通过执行加法value + adder(返回long),您将导致溢出检查溢出

    要么将结果强制为可以容纳更大数字的东西,即:

    if(value + (Decimal)adder > long.MaxValue)
    

    或者捕获Overflow 异常,而不是尝试提前检查溢出。您的乘法检查有效的原因是您的结果是float,它可以容纳更大的数字。

    请注意,您可以转换任一操作数,关键是您得到的是 Decimal 添加运算符而不是 long 一个;与强制浮点除法相同。

    【讨论】:

      【解决方案3】:

      您可以有 两种 可能的溢出情况:

      1. 两个大valueadder返回非正结果
      2. 两个大valueadder返回非负结果

      所以你必须检查 both 条件的 both 边框形式:

        if ((value + adder < value && value + adder < adder) || 
            (value + adder > value && value + adder > adder)) {
          // Overflow
        }
      

      或者你可能想表达的意思

      public static long addLong(long value, long adder) {
        unchecked { // we'll detect overflow manually
          if (value + adder < value && value + adder < adder) {
            Debug.Log("greater then max value");
            return long.MaxValue;
          }
          else if (value + adder > value && value + adder > adder) {
            Debug.Log("less then min value");
            return long.MinValue;
          }
          else {
            Debug.Log("within the [min..max] range");
            return value + adder;
          }
        }
      }
      

      测试:

      addLong(2, 3);                   // within the [min..max] range
      addLong(long.MaxValue - 3, 5);   // greater then max value
      addLong(long.MinValue + 2, -5);  // less then min value
      

      【讨论】:

        猜你喜欢
        • 2021-05-25
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2019-06-06
        • 1970-01-01
        • 2013-06-28
        • 1970-01-01
        • 2017-07-08
        相关资源
        最近更新 更多