Pandas：如何从预先存在的列下的列表中插入新数据？

Question

所以，我有一个空的 pandas 数据框，我计划多次追加，我给它列，用

dataframe = pd.DataFrame([], columns=['Author', 'Date', 'Text', 'Length', 'Favorites', 'Retweets'])

最终，我拥有列表列表（或数组数组，如果你愿意的话）形式的数据，并希望将所有数据添加到当前列下的空数据框中。

数据是这样生成的，（我正在从 twitter 上抓取数据，顺便说一句）

input = np.array(list(zip([tweet.source for tweet in tweets],
                         [tweet.created_at for tweet in tweets], 
                         [tweet.text for tweet in tweets],
                         [len(tweet.text) for tweet in tweets],
                         [tweet.favorite_count for tweet in tweets],
                         [tweet.retweet_count for tweet in tweets])))

这会产生一个数组，其中每个项目对应于一条推文以及与之相关的所有信息。

如果我尝试dataframe.append(pd.DataFrame(input))，我会得到以下混乱的结果，

在这种情况下，如何有效地将此类数据附加到我的数据框中？

提前谢谢大家。

Answer 1

您可以做的一件事是创建这样的数据：

input = np.array([[tweet.source, tweet.created_at, tweet.text, 
                   len(tweet.text), tweet.favorite_count, tweet.retweet_count]
                   for tweet in tweets])

这样，您只需遍历 tweet 数组一次即可构造矩阵，然后您可以将其提供给 pandas：

dataframe = pd.DataFrame(input, columns=['Author', 'Date', 'Text', 'Length', 
                                       'Favorites', 'Retweets'])

一次性构建所有数据，然后围绕它构建一个 pandas 数据框，比将每个观察结果附加到数据框要高效得多。

如果您要使用分桶方法，我建议您使用上述方法构建一个数据框列表，然后使用pd.concat

df_total = pd.concat([df1, df2, ... dfn])

或者，如果您刚刚收到新批次，您可以尝试：

df = pd.concat([df, df_new_batch])

链接到pd.concat的文档