【问题标题】:Pandas Read_Parquet NaN error: ValueError: cannot convert float NaN to integerPandas Read_Parquet NaN 错误:ValueError:无法将浮点 NaN 转换为整数
【发布时间】:2020-07-07 10:05:06
【问题描述】:
我需要帮助来处理在 Python3 中读取 parquet 文件时遇到的 NaN 错误。
当我尝试读取文件时,有一列返回“NaN”。
根据要求,我无法更改此文件的内容 - 所以我无法进入并处理有问题的列。
这是我用来读取文件的代码:
df = pd.read_parquet("parquet_file.parquet")
这是错误:
ValueError: cannot convert float NaN to integer
谢谢。
【问题讨论】:
标签:
python
python-3.x
pandas
parquet
【解决方案1】:
遇到类似问题后,我发现解决方案(在我的情况下)是 pip install pyarrow。
read_parquet 的文档提到了 engine 参数。 auto 是默认值,如果 pyarrow 不可用,则使用 fastparquet 库。
pip 安装 pyarrow 然后重新运行代码似乎可以解决问题
【解决方案2】:
pandas.read_parquet(parquet_file.parquet, columns=[column1,column2])
您可以从文件中指定要处理的列列表,排除有问题的列