【问题标题】:C Format String printf("%lld") wrong results [duplicate]C格式字符串printf(“%lld”)错误结果[重复]
【发布时间】:2015-07-06 14:32:57
【问题描述】:
long long temp_number;
float input = 0.7f;
temp_number = input*100;
printf("%lld",temp_number);

谁能解释为什么我得到的是 69 而不是 70?

【问题讨论】:

  • 这是因为0.7 不能用二进制精确表示。它的二进制表示可能相当于十进制的.69999999999。因此.6999999999*100 = 69.99999999。
  • 那么在计算机科学中不可能乘以 0.7*100 并得到正确的结果吗? :-)
  • 为什么不呢?试试这个:temp_number = input*100 + 0.5;.
  • 你可以在计算机科学中得到正确的结果。在 IEEE-754 浮点运算中,您无法获得无限准确的结果。这就是为什么您不应该在需要无限精度的地方使用 IEEE-754。

标签: c printf c-strings


【解决方案1】:

这里没有什么神秘的。它类似于将1/3 写成小数0.333333~(~ 表示“循环”),然后乘以3。答案是0.999999~ 而不是1,我希望你能看到这与计算机科学无关。

您已将float 转换为long long int,编译器警告说这样做可能会导致数据丢失。但是在转换为不同的类型之前,您乘以 100,所以让我们再看一下float 的示例。

十进制值0.7 不能以二进制float 格式精确表示。当您将printf 与float 一起使用时,它会将尾数的最低有效位四舍五入以处理问题。所以当我这样做时

float f = 0.7f;
printf("%f\n", f);

输出是我想要的0.700000。但是,当我将 float 的值乘以 100 时,会在尾数的最低有效位中产生更大的错误,而之前只有 1 的错误。所以现在使用

float f = 0.7f;
printf("%f\n", f*100);

输出为69.999999,因为将最低有效位向上舍入不会使数字向上滚动到70.000000。

回到1/3 的十进制表示的第一个示例,但在有限的存储大小中,例如0.333333333 的10 个十进制数字。乘以3 得到9.999999999,将最后一位四舍五入得到1.000000000。但是乘以30 得到9.999999990 并且将最后一位四舍五入不会产生10.00000000。

C 语言不“知道”数字的float 表示会截断重复出现的分数。也许有一种数值类型可以保存这些信息并相应地计算算术函数。

【讨论】:

  • 一些细节:“printf with float it round up the minimum Significant bit”是不对的。 printf() 将 x.xxxxxx 结果四舍五入到最接近的 0-9 十进制数字,而不是位。所以0.7f 或0.6999999881... 转到0.700000 和printf("%f\n", f*100); 转到69.999999
猜你喜欢
  • 2019-03-26
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2018-12-25
  • 1970-01-01
  • 1970-01-01
  • 2011-07-22
  • 1970-01-01
相关资源
最近更新 更多