【问题标题】:Error in `python': free(): invalid pointer: 0x00007fc3c90dc98e“python”中的错误:free():无效指针:0x00007fc3c90dc98e
【发布时间】:2018-03-18 09:24:30
【问题描述】:

在 anacondas py3.6 安装中的 ubuntu 服务器(100GB RAM)上以这种方式在 for 循环中打开多个文件后出现此错误(7 个文件 * 4GB):

temp_df = pd.read_csv(datafolder + str(file), encoding="ISO-8859-1", delimiter=';',low_memory=False)

这是错误,是我设置后出现的

low_memory=假

low_memory = True 时不会发生

* `python' 中的错误:free():无效指针:0x00007fc3c90dc98e *

任何人的想法?谢谢

【问题讨论】:

标签: python ubuntu anaconda python-3.6 invalid-pointer


【解决方案1】:

这个问题是由于打开文件时多个线程并行执行引起的,这有时也会导致分段错误。 正如您所说,您的文件每个包含 4 GB,因此并行执行以读取您的文件的多个线程导致了问题。

【讨论】:

  • 意思是 pandas 或 anaconda 正在并行化这个过程?并且 low_memory = False 会触发这个?
  • 是的,这一切都是因为这个
  • 即使num_workers=0...我也看到一个错误...这是预期的吗?
  • 这是由于 GPU 或正常 RAM 导致的错误?
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2018-06-18
  • 2018-09-17
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多