【发布时间】：2018-03-14 18:30:41
【问题描述】：
我一直在使用 PySpark 在一个相当大的 RDD 中运行大量计算，每个块如下所示：
ID CHK C1 Flag1 V1 V2 C2 Flag2 V3 V4
341 10 100 TRUE 10 10 150 FALSE 10 14
341 9 100 TRUE 10 10 150 FALSE 10 14
341 8 100 TRUE 14 14 150 FALSE 10 14
341 7 100 TRUE 14 14 150 FALSE 10 14
341 6 100 TRUE 14 14 150 FALSE 10 14
341 5 100 TRUE 14 14 150 FALSE 10 14
341 4 100 TRUE 14 14 150 FALSE 12 14
341 3 100 TRUE 14 14 150 FALSE 14 14
341 2 100 TRUE 14 14 150 FALSE 14 14
341 1 100 TRUE 14 14 150 FALSE 14 14
341 0 100 TRUE 14 14 150 FALSE 14 14
我有很多次出现的 ID（它取决于 C1 值，例如从 100 到 130 等等，对于许多 C1，对于每个整数，我有一组 11 行，就像上面的那样）并且我有很多 ID .我需要做的是在每行的组中应用一个公式并添加两列来计算：
D1 = ((row.V1 - prev_row.V1)/2)/((row.V2 + prev_row.V2)/2)
D2 = ((row.V3 - prev_row.V3)/2)/((row.V4 + prev_row.V4)/2)
我所做的（正如我在这篇有用的文章中发现的：https://arundhaj.com/blog/calculate-difference-with-previous-row-in-pyspark.html）是定义一个窗口：
my_window = Window.partitionBy().orderBy(desc("CHK"))
对于每个中间计算，我创建了一个“temp”列：
df = df.withColumn("prev_V1", lag(df.V1).over(my_window))
df = df.withColumn("prev_V21", lag(df.TA1).over(my_window))
df = df.withColumn("prev_V3", lag(df.SSQ2).over(my_window))
df = df.withColumn("prev_V4", lag(df.TA2).over(my_window))
df = df.withColumn("Sub_V1", F.when(F.isnull(df.V1 - df.prev_V1), 0).otherwise((df.V1 - df.prev_V1)/2))
df = df.withColumn("Sub_V2", (df.V2 + df.prev_V2)/2)
df = df.withColumn("Sub_V3", F.when(F.isnull(df.V3 - df.prev_V3), 0).otherwise((df.V3 - df.prev_V3)/2))
df = df.withColumn("Sub_V4", (df.V4 + df.prev_V4)/2)
df = df.withColumn("D1", F.when(F.isnull(df.Sub_V1 / df.Sub_V2), 0).otherwise(df.Sub_V1 / df.Sub_V2))
df = df.withColumn("D2", F.when(F.isnull(df.Sub_V3 / df.Sub_V4), 0).otherwise(df.Sub_V3 / df.Sub_V4))
最后我去掉了临时列：
final_df = df.select(*columns_needed)
花了很长时间，我不断得到：
WARN WindowExec: No Partition Defined for Window operation! Moving all data to a single partition, this can cause serious performance degradation.
我知道我没有正确执行此操作，因为上面的代码块位于几个 for 循环中，以便对所有 ID 进行计算，即循环使用：
unique_IDs = list(df1.toPandas()['ID'].unique())
但是在研究了 PySpark Window 函数的更多信息后，我相信通过正确设置窗口 partitionBy()，我可以更轻松地获得相同的结果。
我查看了Avoid performance impact of a single partition mode in Spark window functions，但我仍然不确定如何正确设置窗口分区以使其正常工作。
有人可以就我如何解决这个问题向我提供一些帮助或见解吗？
谢谢
【问题讨论】：
-
我需要做的是在每一行的组中应用一个公式——你的意思是 ID 和 C1 组？如果是这样，那么您的分区应该在这些列上。
标签： python function pyspark spark-dataframe