【发布时间】:2013-05-20 14:27:37
【问题描述】:
我编写了以下算法,将十进制值转换为二进制/十六进制等。
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
long double cur = (long double)t / (long double)(format);
long long ganzzahl = (long long) cur;
long double kommazahl = cur - ganzzahl;
hex += digits[(long long) (kommazahl * format)];
t = ganzzahl;
}
return string(hex.rbegin(), hex.rend());
}
我在 linux 中使用 GCC,在 Windows 上使用 Visual Studio c++ 编译器 看来我在这里的“整数”部门得到了不同的值:
long long ganzzahl = (long long) cur;
知道这怎么会发生吗? Linux 和 Windows 有不同的精度吗?
谢谢 弗洛里安
--解决方案--
string toFormatFromDecimal(long long t, Format format) {
int digitCount = ceil(log(t) / log((int) format));
string hex = "";
for (int i = 0; i < digitCount; i++) {
hex += digits[(int) (t%format)];
t = t/format;
}
return string(hex.rbegin(), hex.rend());
}
【问题讨论】:
标签: c++ linux windows gcc floating-point