【问题标题】:Pandas: Large dataframes in the same HDF?Pandas:同一个 HDF 中的大型数据帧?
【发布时间】:2016-11-26 00:41:31
【问题描述】:

我有几个不同的相关数据框(如果需要,可以使用 ID 加入它们)。但是,我并不总是同时需要它们。

由于它们非常大,将它们存储在单独的 HDF 存储中是否有意义?或者当我处理同一文件中的其他帧时,携带“未使用”帧的成本可以忽略不计?

【问题讨论】:

    标签: pandas hdf5 hdf


    【解决方案1】:

    如果它们在另一个文件或同一个文件中,携带未使用的帧的成本是相同的。问问你自己,将这个 sql 表存储在另一个数据库还是同一个数据库中更好。如果它们相关,请将它们放在同一个商店中。

    【讨论】:

      【解决方案2】:

      理论上如果您可以根据 IO 子系统(不同的主轴、不同的存储系统等)分离您的 HDF 文件,您可以尝试并行读取您的 DF,实际上我会测试它在您的硬件上使用您的数据等的特定情况。

      分离文件的另一个优点 - 如果您从包含多个 DF 的 HDF 存储中删除或显着减小巨大 DF 的大小 - 它的大小将保持不变。如果你有一个单独的文件,你可以简单地删除它并释放未使用的空间

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 2021-07-20
        • 2017-04-01
        • 2016-03-22
        • 2017-11-16
        • 2015-09-08
        • 2018-07-29
        • 2019-05-31
        相关资源
        最近更新 更多