【问题标题】:C# double to realC# double 到 real
【发布时间】:2011-06-21 23:27:34
【问题描述】:

我正在尝试将双精度转换为帕斯卡实数,但是当我将 0.23 转换为实数时,我得到了 0.23999999 实数,如何将所有 9999 截断为 0000。

public static byte[] Double2Real48(double d)
{
    byte[] r48 = new byte[6];
    byte[] da = BitConverter.GetBytes(d);

    for (int i = 0; i < r48.Length; i++)
        r48[i] = 0;

    //Copy the negative flag
    r48[5] |= (byte)(da[7] & 0x80);

    //Get the expoent
    byte b1 = (byte)(da[7] & 0x7f);
    ushort n = (ushort)(b1 << 4);
    byte b2 = (byte)(da[6] & 0xf0);
    b2 >>= 4;
    n |= b2;

    if (n == 0)
        return r48;

    byte ex = (byte)(n - 1023);
    r48[0] = (byte)(ex + 129);

    //Copy the Mantissa
    r48[5] |= (byte)((da[6] & 0x0f) << 3);//Get the last four bits
    r48[5] |= (byte)((da[5] & 0xe0) >> 5);//Get the first three bits

    r48[4] = (byte)((da[5] & 0x1f) << 3);//Get the last 5 bits
    r48[4] |= (byte)((da[4] & 0xe0) >> 5);//Get the first three bits

    r48[3] = (byte)((da[4] & 0x1f) << 3);//Get the last 5 bits
    r48[3] |= (byte)((da[3] & 0xe0) >> 5);//Get the first three bits

    r48[2] = (byte)((da[3] & 0x1f) << 3);//Get the last 5 bits
    r48[2] |= (byte)((da[2] & 0xe0) >> 5);//Get the first three bits

    r48[1] = (byte)((da[2] & 0x1f) << 3);//Get the last 5 bits
    r48[1] |= (byte)((da[1] & 0xe0) >> 5);//Get the first three bits

    return r48;

}

【问题讨论】:

  • 这是正常的舍入误差,是意料之中的。并非所有浮点数都可以用二进制精确表示。如果您想要更精确,请使用decimal,但此问题仍然存在。
  • 实际上,在这种情况下这可能不是问题 - 我刚刚重新阅读了您的问题,发现这些数字不是我想象的那样。
  • 首先听起来你想对一个数字求平方,然后你用不正确的十进制表示替换这个数字,然后你发布一个似乎手动将数字加倍的方法...... 你想做什么?
  • @Chrisf: 0.229999 将是一个正常的舍入问题。 0.23999 要么是算法问题,要么是数据中的拼写错误。
  • @ChrisF 我的问题请帮助我

标签: c# asp.net double pascal type-conversion


【解决方案1】:

这是我的转换例程。请注意,我没有在此处添加任何特殊内容来处理 IEEE 无穷大或 NaN 值。

static byte[] DoubleToReal48(double d)
{
    byte[] r = new byte[6];

    long bits = BitConverter.DoubleToInt64Bits(d);
    bool negative = ((bits >> 63) & 1) != 0;
    long exponent = ((bits >> 52) & 0x7FF) - 1023;
    long mantissa = bits & 0xFFFFFFFFFFFFFL;

    long raw = (negative ? 1 : 0);
    raw = (raw << 39) | (mantissa >> 13);
    raw = (raw << 8) | ((exponent + 129) & 0xFF);

    for (int k = 0; k < 6; k++)
    {
        r[k] = (byte)(raw & 0xFF);
        raw >>= 8;
    }
    return r;
}

static double Real48ToDouble(byte[] r)
{
    long raw = 0;
    for (int k = 5; k >= 0; k--)
    {
        raw = (raw << 8) | r[k];
    }

    long mantissa = (raw << 5) & 0xFFFFFFFFFD000L;
    long exponent = (((raw & 0xFF) - 129 + 1023) & 0x7FF) << 52;
    long sign = (((raw & ~0x7FFFFFFFFFFFL) != 0) ? 1 : 0) << 63;

    return BitConverter.Int64BitsToDouble(sign | exponent | mantissa);
}

往返转换有一些精度损失,但结果基本正确。 [Real48ToDouble(DoubleToReal48(0.23)) 返回 0.229999999999563]

【讨论】:

    猜你喜欢
    • 2012-01-08
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2018-06-10
    • 1970-01-01
    • 2020-08-11
    • 1970-01-01
    • 2012-07-16
    相关资源
    最近更新 更多