选择十进制形式的浮点数

Question

我在 PostgreSQL 表中有一个小数：

test=# CREATE TABLE test (r real);
CREATE TABLE
test=# INSERT INTO test VALUES (0.00000000000000000000000000000000000000000009);
INSERT 0 1

当我运行以下查询时，它返回的数字为8.96831e-44：

test=# SELECT * FROM test;
      r      
-------------
 8.96831e-44
(1 row)

如何以十进制形式 (0.00000000000000000000000000000000000000000009) 而非科学计数法显示 psql 中的值？我也会对0.0000000000000000000000000000000000000000000896831 感到满意。不幸的是，我无法更改表格，而且我并不真正关心精度损失。

（我和to_char玩了一段时间没有成功。）

Answer 1

Real in Postgres 是浮点数据类型，存储在 4 个字节上，即 32 位。

你的价值，

0.00000000000000000000000000000000000000000009

不能用 32 位 IEEE754 浮点数精确表示。您可以检查确切的值in this calculator

你冷尝试使用双精度（64位）来存储它，根据计算器，这似乎是一个精确的表示。 不正确 Patricia 表明它只是对值进行四舍五入的计算器，即使明确要求它不要... Double 意味着更精确，但仍然没有确切的值，因为这个数字不能用有限数量的二进制表示位数。 （谢谢，Patricia，吸取的教训（再次）：不要相信您在 Intertubez 上看到的内容）

一般情况下，您应该使用 NUMERIC(precision, scale) 格式，这样可以精确存储数字以获取正确的值。

但是，对于精确的十进制表示，您要存储的值似乎比 postgres 允许的（似乎是 30）更大。如果您不想进行计算，只需存储它们（我承认这不是很常见的情况），您可以尝试将它们存储为字符串......（但这很难看......）

编辑

这个to_char问题好像是known bug...

引用：

我对此的直接反应是 float8 值没有 57 位 的精度。如果您期望该格式字符串执行某些操作 有用，您应该将其应用于数字列而不是双精度列 精度一。

我们可能会设法解决这个特殊的案例 正如你所期待的，但总会有相似的外观 由于精度不存在而无法工作的情况。

快速查看代码，您得到“0”的原因。是不是 在 15 位数字后四舍五入以确保它不会打印垃圾。也许 对于价值非常小的情况，它可能会更聪明一些 大于 1，但这不会是一个简单的变化。

(from here)

但是，我认为这无可辩驳。恕我直言，如果值适合类型...

推荐阅读：

• What Every Computer Scientist Should Know About Floating-Point Arithmetic
• Postgres numeric types
• BUG #6217: to_char() gives incorrect output for very small float values