【问题标题】:Max value from several row [duplicate]几行的最大值[重复]
【发布时间】:2022-01-16 12:54:32
【问题描述】:

我有这样的 DF。我正在以 rdd 的形式处理表格

我想获得一个表格,其中包含给定国家/地区的最大订单价值和该客户的客户编号。

我不知道如何构造 map 函数。除非有更好的方法?

【问题讨论】:

    标签: python apache-spark dictionary pyspark rdd


    【解决方案1】:

    PySpark:

    df.groupBy('customernumber', 'city').max('sum_of_orders')
    

    Pandas:

    df.groupby(['customernumber', 'city'])['sum_of_orders'].max()
    

    【讨论】:

    • 它对你有用吗?
    • 不完整.. :/ Py4JError: 调用 None.org.apache.spark.api.python.PythonPartitioner 时出错。跟踪:py4j.Py4JException:构造函数 org.apache.spark.api.python.PythonPartitioner([class java.lang.String, class java.lang.Long]) 不存在 [...] py4j.commands.ConstructorCommand.invokeConstructor (ConstructorCommand.java:80) at py4j.commands.ConstructorCommand.execute(ConstructorCommand.java:69) at py4j.GatewayConnection.run(GatewayConnection.java:238) at java.lang.Thread.run(Thread.java:745)
    • 我需要类似的东西 df.rdd.reduceByKey(lambda x: (some function))
    • stackoverflow.com/questions/33716047/… 可能会解决您的问题。
    • 乍一看,我认为是这样 :D 非常感谢
    猜你喜欢
    • 2022-10-12
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2015-06-23
    • 1970-01-01
    • 2013-11-11
    • 2016-06-03
    相关资源
    最近更新 更多