【问题标题】:dictionary interface for large data sets大数据集的字典接口
【发布时间】:2010-04-29 08:37:48
【问题描述】:

我有一组键/值(所有文本)太大而无法一次加载到内存中。我想通过类似 Python 字典的界面与这些数据进行交互。

这样的模块是否已经存在?

读取键值应该是高效的,并且值在磁盘上压缩以节省空间。

编辑:

  • 理想的跨平台,但目前只使用 Linux
  • 需要线程安全

【问题讨论】:

    标签: python dictionary dataset large-files


    【解决方案1】:

    看看shelve 模块。它为字典提供各种支持数据库系统,包括 BerkleyDB 和 dbm。

    【讨论】:

    • 很遗憾“不支持并发读/写访问”
    【解决方案2】:
    【解决方案3】:

    最终基于this existing module 创建了my own solution

    【讨论】:

      【解决方案4】:

      假设您在 *nix 平台上,您只是在 BEGGING for tokyo-cabinet... 它有一组原生 ruby​​ 绑定...您可以在 1978th.net 获得更多信息...

      【讨论】:

      • 哇,我今天很想念左右和中间的帖子……我的错
      猜你喜欢
      • 2012-07-09
      • 2017-07-01
      • 1970-01-01
      • 2021-04-07
      • 1970-01-01
      • 2019-06-10
      • 2022-01-19
      • 2016-12-24
      • 1970-01-01
      相关资源
      最近更新 更多