【问题标题】:Forming numpy array from array buffer from shared memory (multiprocessing) fails从共享内存(多处理)的数组缓冲区形成 numpy 数组失败
【发布时间】:2014-04-10 22:30:01
【问题描述】:

我需要在两个进程之间的共享内存中有一个多维数组。我正在尝试制作一个有效的简单示例:我将 [1, 2, 3, 4, 5, 6, 7, 8, 9] 发送到另一个进程,该进程将其重塑为 [[1, 2, 3], [4, 5, 6], [7, 8, 9]] 而不会占用额外的内存。

import multiprocessing
import ctypes
import numpy


def f(array):
    nmp = numpy.frombuffer(array.get_obj(), dtype=int)
    b = nmp.reshape((3, 3))


if __name__ == '__main__':
    time_array = []
    import common_lib
    common_lib.time_usage(time_array)
    arr = multiprocessing.Array(ctypes.c_int, [1,2,3,4,5,6,7,8,9])
    p = multiprocessing.Process(target=f, args=(arr,))
    p.start()
    p.join()

我完全按照手册中的内容进行操作。但是函数frombuffer 给出了这个错误:

ValueError: 缓冲区大小必须是元素大小的倍数

【问题讨论】:

    标签: python numpy multidimensional-array multiprocessing


    【解决方案1】:

    numpy 数组的 dtype 需要显式设置为 32 位整数。

    nmp = numpy.frombuffer(array.get_obj(), dtype="int32")
    

    如果您在 64 位机器上,很可能您试图将 32 位 ctypes 数组转换为 64 位 numpy 数组。

    【讨论】:

    • 完美运行!非常感谢你!我有 64 位机器。以防万一,如果我使用 float 或 double 应该是什么类型?
    • @soshial 单精度浮点数将是 "float32"np.float32,双精度浮点数将是 "float64"np.float64
    猜你喜欢
    • 2018-10-20
    • 1970-01-01
    • 2021-03-19
    • 2011-12-15
    • 1970-01-01
    • 1970-01-01
    • 2018-02-05
    • 2016-07-04
    相关资源
    最近更新 更多