【问题标题】:64 bit integer initialization error in Visual Studio 2010 SP1Visual Studio 2010 SP1 中的 64 位整数初始化错误
【发布时间】:2012-08-09 12:01:38
【问题描述】:

我有一个奇怪的错误/错误/自我愚蠢问题。我正在用 C 语言开发一个小型应用程序,并且正在使用 Visual Studio 2010 SP1。违规代码:

uint64_t sum_squared_X = 65535*65535*64;
int64_t sum_squared_Y = 65535*65535*64;

调试时,我得到以下结果:

sum_squared_X = 18446744073701163072;
sum_squared_Y = -8388544;

问题是,为什么? uint64_t 的最大值为 2^64-1 或 18446744073709551615,int64_t 的最大值为 2^63-1 或 9223372036854775807。

65535*65535*64 = 274869518400,低于两个最大值。那我为什么会得到这些结果?

我完全迷路了,不胜感激。

【问题讨论】:

  • 从第一个结果来看,它显示为您的乘法 65535*65535*64 返回值 18446744073701163072 ...这解释了为什么第二个结果为负,但不是如何...
  • 如果你尝试uint64_t sum_squared_X = 65535; sum_squared_X *= 65535; sum_squared_x *= 64,你会得到同样的结果吗?
  • 其他可能性:你说“调试时我得到这些结果”,你是如何得到它们的?您确定以正确的方式打印它们吗?
  • 65536的类型是int,不是int64_t。所以你得到一个 int 乘法,它会溢出。请改用 65536LL。
  • Eregrith,Visual Studio 在其 GUI 中显示变量的值,无需打印 :)

标签: c++ c visual-studio int64 uint64


【解决方案1】:

简答:65535 使用 32 位有符号算术乘以 65535,得到 -131,071。然后将其乘以 -64 并转换为 uint64_t(由于环绕而创建更大的正值)或 int64_t(保留 -131,071 乘以 64 的结果)。

长答案:

无后缀整数十进制常量的类型取决于它的值。它是这个列表中第一个可以表示其值的:int、long int、long long int。 (添加后缀或使用八进制或十六进制常量会更改列表。)因为这些类型取决于 C 实现,所以行为取决于 C 实现。

在您的机器中,int 很可能是 32 位。所以“65535”的类型是int,“64”的类型也是。

您的表达式以“65535*65535”开头。这将 65,535 乘以 65,535。数学结果是 4,924,836,225(十六进制,0xfffe0001)。对于 32 位有符号整数,这会溢出可表示的值。这是 C 标准中未定义的行为。在许多实现中通常发生的是值从 231-1(最高可表示值)“环绕”到 -231(最低可表示值)。相同行为的另一种观点是,数学结果的位 0xfffe0001 被解释为 32 位有符号整数的编码。在二进制补码中,0xffffe0001 为 -131,071。

然后你的表达式乘以 64。-131,071*64 不会溢出;结果是 -8,388,544(编码为 0xff800040)。

最后,您使用结果来初始化一个 uint64_t 或 int64_t 对象。此初始化会导致转换为目标类型。

int64_t 转换很简单;转换的输入是 -8,388,544,这在 int64_t 中完全可以表示,所以结果是 -8,388,544,编译器很可能通过扩展符号位(产生编码 0xffffffffff800040)来实现。

uint64_t 转换很麻烦,因为 -8,388,544 不能用 uint64_t 表示。根据 1999 年 C 标准 6.3.1.3 2,“通过在新类型中可以表示的最大值的基础上反复加或减一,直到该值在新类型的范围内。”对于 uint64_t,“比新类型可以表示的最大值大一”是 264。所以结果是 -8,388,544 + 264,即 18,446,744,073,701,163,072。这也有编码 0xffffffffff800040。

对于从较窄宽度到较宽宽度的转换,这种比最大值加一的操作相当于将旧类型的符号位复制到新类型中的所有高位(符号扩展)。对于从更宽的宽度到更窄的宽度的转换,相当于丢弃了高位。无论哪种情况,结果都是模 2n 的余数,其中 n 是新类型的位数。

【讨论】:

  • 值得注意的是,像“65535*65535”这样无害的表达式在 C 标准中具有未定义的行为。显然,标准必须允许表达式评估中的运行时差异,但我想知道为什么编译时诊断没有强制要求在编译时进行签名溢出。因为考虑到当时的技术,它被认为太繁琐了?因为某些应用程序使用签名溢出来发挥优势?
【解决方案2】:

当我编译你的例子时,我清楚地得到了每一行的整数常量溢出警告。这是因为右侧的常量通常存储在一个基本整数中。您必须更改这些值的存储以防止发生溢出情况。要解决此问题,请改为执行以下操作:

uint64_t sum_squared_X = (uint64_t)65535*65535*64;
int64_t sum_squared_Y = (uint64_t)65535*65535*64;

阅读更多here

【讨论】:

  • 我什至没有看到那些警告,我有一些已签名/未签名的相关警告,他们在中间迷路了。现在一切正常,谢谢!
猜你喜欢
  • 1970-01-01
  • 2013-09-04
  • 2011-10-10
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多