如何在 VBA Excel 中保持高小数精度

Question

我正在转换一个至少保持 16 位小数精度的 FORTRAN 代码。 我在 VBA excel 中遇到了除以零的问题，但是如果我在 this online compiler 上尝试下面的代码，我不会得到零。 任何帮助表示赞赏。提前致谢。

这是fortran代码

program sum
IMPLICIT DOUBLE PRECISION (A-H,O-Z)
x = 3.14159265358979
y = 1.24325643454325

z = (x*y)/dtan(0.0D0) 
print *, datan(.04D0*z)
end program sum

这是 VBA 代码

Public Function dosomething()
Dim X As Double
Dim Y As Double
Dim Z As Double
X = 3.14159265358979
Y = 1.24325643454325
Z = (X * Y) / Tan(0#)
End Function

Answer 1

无需赘述，Fortran 可以支持 +/-Infinity 和 NaN 的实数值（浮点数），具体取决于数值的计算方式。例如，您的原始帖子包含两个未初始化的变量，然后您使用它们来计算 (v1 * v2)/dtan(0.0d0)。由于未初始化的变量通常（但不总是）设置为 0，因此该计算变为 0.0/0.0，在数学上未定义，结果为 NaN。¹

现在，如果分子是正数，z=(x*y)/dtan(0.0D0) 的结果是 z=Infinity，而不管 x 和 y 是什么。如果您的系统不能代表 Infinity，那么它使用“非常大的数字”。 VBA 显然就是这种情况。

最后，您计算datan(.04D0*z)。在数学上，这是 arctangent(Infinity)=PI/2。同样，正确计算的 Fortran 结果与此匹配，返回双精度值 1.57079632679490。²

现在，我对 VBA 了解不多，但它似乎不支持 +/-Infinity 或 NaN。如果与您对最终结果的预期相比，“非常大的数字”导致了重大错误，那么似乎有this SO question 中所述的解决方法。

---

¹请注意，在双精度的 Fortran 中，您应该得到 dtan(0.0d0) = 0.000000000000000E+000。

² 为了在 Fortran x 和 y 变量中保持双精度，您必须附加 d0。否则，默认情况下它们将成为单精度值，并且仅存储原始分配中的前 7 个 sig 无花果，而双精度值中剩余的数字将由编译器决定（通常只是垃圾）。

Answer 2

Z = (X * Y) / Tan(0#)

0 文字上的类型提示是多余的，Tan 函数接受 Double 并返回 Double。但是Tan(0) 返回0，所以你正在除以0。

您的在线 Fortran 编译器似乎正在做一些时髦的事情。

它不应该是零，应该是 tan(1E-16)

没有。这在数学上是错误的，VBA 做得对。如果你需要你的 VBA 代码和 Fortran 一样被破坏，那么你需要明确地处理这种情况：

Z = (X * Y) / Tan(1E-16)

但只要知道这在数学上是错误的。我不知道 Fortran 代码如何输出1.5707963267948966。此 VBA 代码输出 3.90580528128931E+16。