python pandas dataframe：将函数返回元组分配给数据框的两列

Question

我想使用返回 tuple 的函数向 pandas Dataframe 添加两列：

data=pd.DataFrame({'a':[1,2,3,4,5,6],'b':['ssdfsdf','bbbbbb','cccccccccccc','ddd','eeeeee','ffffff']})

def givetup(string):
    
    result1 = string[0:3]
    # please imagine here a bunch of string functions concatenated.
    # including nlp methods with SpaCy 
    result2 = result1.upper()
    # the same here, imagine a bunch of steps to calculate result2 based on result 1
    
    return (result1,result2)

data['c'] = data['b'].apply(lambda x: givetup(x)[0])
data['d'] = data['b'].apply(lambda x: givetup(x)[1])

这是非常低效的（我正在处理数百万行），因为我调用了两次相同的函数并进行了两次计算。 由于result2 依赖于result 1 我最好不要将givetup 分成两个函数 如何只调用一次函数就将 result1 和 result2 一次性分配到新列 c 和 d 中？ 最有效的方法是什么？

请记住，result1 和 result2 是非常耗时的字符串计算。

编辑 1： 我知道这件事： Apply pandas function to column to create multiple new columns?

即应用矢量化函数。在我的特殊情况下，这是非常不可取的，甚至是不可能的。想象一下，结果 1 和结果 2 是根据语言模型计算出来的，我需要纯文本。

Answer 1

您可以在这里尝试列表理解：

data[['c','d']] = [givetup(a) for a in data['b']]

输出：

   a             b    c    d
0  1       ssdfsdf  ssd  SSD
1  2        bbbbbb  bbb  BBB
2  3  cccccccccccc  ccc  CCC
3  4           ddd  ddd  DDD
4  5        eeeeee  eee  EEE
5  6        ffffff  fff  FFF

Answer 2

zip/map

data['c'], data['d'] = zip(*map(givetup, data['b']))

data

   a             b    c    d
0  1       ssdfsdf  ssd  SSD
1  2        bbbbbb  bbb  BBB
2  3  cccccccccccc  ccc  CCC
3  4           ddd  ddd  DDD
4  5        eeeeee  eee  EEE
5  6        ffffff  fff  FFF

---

Series.str 和 assign

这是特定于givetup 中给出的示例。但如果可以解开，那可能是值得的。

assign 方法参数可以采用引用在参数之前创建的列 (NEAT) 的 calables。

data.assign(c=lambda d: d.b.str[0:3], d=lambda d: d.c.str.upper())

   a             b    c    d
0  1       ssdfsdf  ssd  SSD
1  2        bbbbbb  bbb  BBB
2  3  cccccccccccc  ccc  CCC
3  4           ddd  ddd  DDD
4  5        eeeeee  eee  EEE
5  6        ffffff  fff  FFF

---

时间

data = pd.concat([data] * 10_000, ignore_index=True)

%timeit data['c'], data['d'] = zip(*map(givetup, data['b']))
%timeit data[['c','d']] = [givetup(a) for a in data['b']]
%timeit data.assign(c=lambda d: d.b.str[0:3], d=lambda d: d.c.str.upper())

69.7 ms ± 865 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
137 ms ± 937 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
34.6 ms ± 235 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)

Answer 3

另一种方法是对系列使用 apply 函数：

import pandas as pd

data=pd.DataFrame({'a':[1,2,3,4,5,6],'b':['ssdfsdf','bbbbbb','cccccccccccc','ddd','eeeeee','ffffff']})

def givetup(column):
    
    column1 = column[0:3]
    column2 = column[0:3].upper()
    
    return pd.Series([column1, column2])

data[['c','d']] = data['b'].apply(lambda x: givetup(x))