【发布时间】:2018-12-09 04:55:25
【问题描述】:
我正在按 pyspark 上的条件计算行数
df.agg(count(when((col("my_value")==0),True))).show()
它按我的预期工作。那么如何提取表中显示的值以存储到 Python 变量中呢?
【问题讨论】:
-
我看到有人提到了
collect函数,但在我的情况下它不起作用:数据框太大,spark 会抛出错误。
标签: pyspark
我正在按 pyspark 上的条件计算行数
df.agg(count(when((col("my_value")==0),True))).show()
它按我的预期工作。那么如何提取表中显示的值以存储到 Python 变量中呢?
【问题讨论】:
collect 函数,但在我的情况下它不起作用:数据框太大,spark 会抛出错误。
标签: pyspark
如果你只想计算 Trues (ceros),你最好这样做:
from pyspark.sql import functions as F
pythonVariable = df.where(F.col('my_value') == 0).collect[0][0]
如您所见,无需将 ceros 更改为 True 即可对其进行计数。
【讨论】: