【问题标题】:numpy.int rounds to wrong valuenumpy.int 舍入为错误值
【发布时间】:2021-07-25 09:28:59
【问题描述】:

更新 numpy 后,numpy.int 给出了弃用警告,所以我尝试将代码中的所有变量转换为 int8(许多变量是 1 和 0 的数组)。 有人能解释一下下面简单试验的结果吗?

Out[8]: 150.0

np.int8(300/2)
Out[9]: -106

np.int16(300/2)
Out[10]: 150

np.int32(300/2)
Out[11]: 150

【问题讨论】:

    标签: numpy dtype


    【解决方案1】:

    可以用 8 位表示的最小有符号数是 -128,最大的是 127。numpy doc 您可以在 [此处] 了解更多信息。2here

    【讨论】:

    • 有趣的是我没有注意负数,谢谢!
    猜你喜欢
    • 1970-01-01
    • 2010-10-31
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多