【发布时间】:2016-03-19 15:05:39
【问题描述】:
我做了一些计算,结果是 0.000137*0.000137= 0.000000018769
我将答案保存在 float y 中
但是好像保存为1.88788682e-008
我希望它保存为 0.000000018769
我尝试了 double 类型,但得到了相同的答案
int main()
{
float y= 0.000137*0.000137;
return 0;
}
调试时手表中出现 0.000137*0.000137
【问题讨论】:
-
你如何“保存”它以及在哪里?显示一些代码。
-
我的意思是浮动 y = 0.000137*0.000137 @SamiKuhmonen
-
我们无法指出我们看不到的代码中的错误。
-
那不是保存。那就是分配一个变量。它本身没有文本表示。无论您使用什么来显示值,都在转换为文本。你能说出真正的问题是什么吗?
-
不过,首先,不要被科学记数法吓到。这就是您的值如何输出到屏幕,而不是它的保存方式。但令人担忧的是,这些值实际上是不同的。
标签: c++ double decimal rounding