7 字节十六进制到十进制转换

Question

我需要将 Excel 列中的 7 字节十六进制值转换为相邻列中的十进制等效值。

我有超过 2000 个唯一值可以从十六进制转换为十进制。

我使用 Excel 的 hex2bin 和 bin2dec 公式。
我发现 Excel 会四舍五入最不重要的 4 位小数。

示例：
7字节十六进制：0x803277323A8904
Excel 输出：36084284544158000
正确的十进制数：36084284544157956

Answer 1

这是Rick Rothstein's code的一个小变种

Function HexToDecs(ByVal HexString As String) As String
  Dim X As Integer
  Dim BinStr As String
  Const BinValues = "0000000100100011010001010110011110001001101010111100110111101111"
  If Left$(HexString, 2) Like "&[hH]" Then
    HexString = Mid$(HexString, 3)
  End If
  If Len(HexString) <= 23 Then
    For X = 1 To Len(HexString)
      BinStr = BinStr & Mid$(BinValues, 4 * Val("&h" & Mid$(HexString, X, 1)) + 1, 4)
    Next
    HexToDecd = CDec(0)
    For X = 0 To Len(BinStr) - 1
      HexToDecd = HexToDecd + Val(Mid(BinStr, Len(BinStr) - X, 1)) * 2 ^ X
    Next
  Else
    ' Number is too big, handle error here
  End If
  HexToDecs = CStr(HexToDecd)
End Function

注意：

• 此 UDF() 返回整数的字符串表示形式，以避免对真实数值的 15 位限制。
• 我选择不以 0x 开始我的输入字符串

Answer 2

Excel 最大位数。在 Excel 电子表格中，单元格中存储的数字有一个限制，即 15 位（15 个数字），无论数字是否为小数位。 Excel 将此称为“15 位有效数字精度”，符合“IEEE 754”。2015 年 2 月 24 日

为了有 36084284544157956，它有 17 个数字，将单元格保存为文本。

---

即使是 VBA 也不喜欢显示这么大的数字：

Public Sub TestMe()

    Dim inputString As String: inputString = "123456789012345678"
    Dim someValue As Double

    someValue = inputString
    Debug.Print someValue + 1

End Sub

获取：1,23456789012346E+17

---

要在 Excel 单元格中显示文本值，请确保在将文本放入单元格之前格式化单元格：

Option Explicit

Public Sub TestMe()

    With Range("D2")
        .NumberFormat = "@"
        .Value2 = "123456789012345678"
    End With

End Sub