为什么从数据库出来后我的小数会稍微大一点？

Question

我有点困惑，一个 2 位小数在进出数据库后会额外增加 0.000000000000000001（左右）。

这就是我所做的：（Rails 3.2.8）

创建迁移：

class CreateItems < ActiveRecord::Migration
  def change
    create_table :items do |t|
      t.column :price, :decimal, :precision => 16, :scale => 2
    end
  end
end

创建了一个模型：

class Item < ActiveRecord::Base
end

然后：

$ rails c
>> i = Item.new
>> i.price = 9.46
>> i.save
>> Item.first.price
=> #<BigDecimal:46b3768,'0.9460000000 000001E1',27(45)>

这是一个 SQLite 数据库，里面看起来一切正常：

$ rails db
>> select * from items;
1|9.46

请注意，我注意到发生这种情况的唯一数字是 9.46。 额外的 0.00000000000001 是从哪里来的？

---

编辑 我知道，如果没有小错误，某些数字的浮点表示是不可能的。但是为什么Item.first.price 不等于BigDecimal.new('9.46')？ SQLite 是否存储一个浮点数而不是一个整数，并且它应该被除以 10 的次数（这就是我对小数列的期望）？或者 ActiveRecord 中是否有一些我不知道从数据库中检索值的问题？见下文：

$ rails c
>> decimal = BigDecimal.new('9.46')
>> Item.first.price == decimal
=> false

Answer 1

我对 ruby​​ 不是很熟悉，但不会使用

i.price = 9.46

尝试使用

i.price = BigDecimal.new('9.46')

Answer 2

9.46 不能完全表示为 IEEE double-precision 浮点数。这有a great many consequences，但这意味着你得到的值是完全可表示的并且最接近你输入的值。

如果获取 '9.46' 至关重要，请将其存储在具有TEXT 亲和力的列中（并注意您存储的是字符串，而不是“数字”）。

Answer 3

我会推荐阅读这篇文章：What Every Computer Scientist Should Know About Floating Arithmetic

文章的 tl;dr 版本...

将无限多个实数压缩为有限位数 需要一个近似的表示。虽然有无限 许多整数，在大多数程序中整数计算的结果可以 以 32 位存储。相反，给定任何固定数量的比特， 大多数实数计算将产生的数量 不能用那么多位精确表示。因此 浮点计算的结果通常必须按顺序四舍五入 以适应其有限的表示。这个舍入误差是 浮点计算的特征。