【问题标题】:Is there any way to get SciKit-Learn to use the hard drive?有什么方法可以让 SciKit-Learn 使用硬盘吗?
【发布时间】:2019-02-26 01:07:00
【问题描述】:

总的来说,我对 scikit-learn 和机器学习非常陌生。我有一个包含 140,565 行和 17 列的数据集。我正在使用运行随机森林模型的其他人的代码,在具有 2.7GHz 处理器、4GB RAM、Windows 10 的机器上。

显然 4GB RAM 是不够的,我无法升级这个系统(超极本)。它里面有一个SSD。有没有办法将 scikit 配置为使用硬盘驱动器而不是 RAM(以牺牲速度为代价获得更多空间)?

【问题讨论】:

  • 你能至少再买 4 台 ram 吗?你的提议是不可行的。
  • 尝试使用dask。这是documentation。这是video 很好地解释了 dask 的工作原理

标签: python scikit-learn


【解决方案1】:

您仍然需要内存,据我所知从磁盘读取和写入对于 sklearn ML 任务是不可能的(您需要尝试其他软件),您可以尝试使用下面列出的策略来适应内存,但受到限制可以实现哪些算法:Scaling with instances using out-of-core learning

在这种情况下,性能和结果会受到影响,批次大小也会影响结果。

注意:对于磁盘的读取和写入更适合 SAS 和 hadoop(map-reduce),但 sklearn 需要 RAM。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2020-07-28
    • 1970-01-01
    • 2018-01-24
    • 2020-02-10
    • 1970-01-01
    • 2018-05-22
    • 2017-03-22
    • 2013-03-06
    相关资源
    最近更新 更多