Pyspark获取最大值排除NaN

Question

df = spark.createDataFrame([(1.0,100.0, float('nan')), (float('nan'),100.0, 2.0)], ("a", "b"))
df.select(F.max(df.a)).show()

结果是：

+------+
|max(a)|
+------+
|   NaN|
+------+

我不想要 NaN，我该怎么办？

Answer 1

你可以的

df.na.fill(0) 

在应用 max 过滤器之前