【问题标题】:Pandas aggregate count distinctPandas 聚合计数不同
【发布时间】:2013-09-04 11:35:00
【问题描述】:

假设我有一个用户活动日志,我想生成一份总持续时间和每天唯一用户数的报告。

import numpy as np
import pandas as pd
df = pd.DataFrame({'date': ['2013-04-01','2013-04-01','2013-04-01','2013-04-02', '2013-04-02'],
    'user_id': ['0001', '0001', '0002', '0002', '0002'],
    'duration': [30, 15, 20, 15, 30]})

聚合持续时间非常简单:

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg
            duration
date
2013-04-01        65
2013-04-02        45

我想做的是同时计算持续时间和计数差异,但我似乎找不到 count_distinct 的等价物:

agg = group.aggregate({ 'duration': np.sum, 'user_id': count_distinct})

这行得通,但肯定有更好的方法,不是吗?

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg['uv'] = df.groupby('date').user_id.nunique()
agg
            duration  uv
date
2013-04-01        65   2
2013-04-02        45   1

我在想我只需要提供一个函数,将 Series 对象的不同项的计数返回给聚合函数,但我对各种库的了解不多。还有,好像groupby对象已经知道这些信息了,我岂不是在重复劳动?

【问题讨论】:

    标签: python pandas


    【解决方案1】:

    其中一个怎么样:

    >>> df
             date  duration user_id
    0  2013-04-01        30    0001
    1  2013-04-01        15    0001
    2  2013-04-01        20    0002
    3  2013-04-02        15    0002
    4  2013-04-02        30    0002
    >>> df.groupby("date").agg({"duration": np.sum, "user_id": pd.Series.nunique})
                duration  user_id
    date                         
    2013-04-01        65        2
    2013-04-02        45        1
    >>> df.groupby("date").agg({"duration": np.sum, "user_id": lambda x: x.nunique()})
                duration  user_id
    date                         
    2013-04-01        65        2
    2013-04-02        45        1
    

    【讨论】:

    • 就是这样。 pd.Series.nunique 是我找不到的,好吧,无法正常工作。事后看来相当明显。谢谢!
    • 这个答案已经过时了。您现在可以直接使用nunique。请参阅下面@Blodwyn Pig 的解决方案
    • 你知道如何获得非重复计数吗?
    【解决方案2】:

    'nunique' 是 .agg() 的一个选项,因为 pandas 0.20.0,所以:

    df.groupby('date').agg({'duration': 'sum', 'user_id': 'nunique'})
    

    【讨论】:

    • 是否可以聚合并获取唯一值?类似duration: np.unique
    • @guy 试试df.groupby('date').agg({'user_id': lambda s: s.unique().reset_index(drop=True)})
    • 我们如何得到输出?
    【解决方案3】:

    只是添加到已经给出的答案,使用字符串 "nunique" 的解决方案似乎要快得多,在这里测试 ~21M 行数据帧,然后分组到 ~2M

    %time _=g.agg({"id": lambda x: x.nunique()})
    CPU times: user 3min 3s, sys: 2.94 s, total: 3min 6s
    Wall time: 3min 20s
    
    %time _=g.agg({"id": pd.Series.nunique})
    CPU times: user 3min 2s, sys: 2.44 s, total: 3min 4s
    Wall time: 3min 18s
    
    %time _=g.agg({"id": "nunique"})
    CPU times: user 14 s, sys: 4.76 s, total: 18.8 s
    Wall time: 24.4 s
    

    【讨论】:

    • 不错的收获!我猜它在“lambda”/“其他函数”的情况下是 b/c,它按顺序应用,而“已知”函数以矢量化方式应用于整个列。
    • 哪个解决方案来自@Blodwyn Pig?
    • @Chogg,最快的!
    • @Chogg - 抱歉,我更改了用户名。是我。
    猜你喜欢
    • 1970-01-01
    • 2020-11-19
    • 2021-10-01
    • 1970-01-01
    • 1970-01-01
    • 2019-09-18
    • 1970-01-01
    • 2015-08-11
    • 1970-01-01
    相关资源
    最近更新 更多