【发布时间】:2021-06-10 11:41:10
【问题描述】:
当我将大数除以小数时,除法是正确的,但是当我将小数除以大数时,答案返回错误。在我的场景中,小数字永远是第一位的。这是我的代码,此代码返回 7.4074074074074075E-6 但正确的结果是 0.0000074074。
double itf = 0.0;
double a = 4.0;
double b = 540000;
itf = a / b;
Log.i(TAG, "savedata: outputvalue=" + itf);
【问题讨论】:
-
这能回答你的问题吗? Is floating point math broken?
标签: java android calculator calculation integer-division