使用 pd.DataFrame 以高斯分布重新分配数据

Question

我有一个 pandas DataFrame，其中包含每个样本属于每个类（列）的概率。碰巧的是，几乎 99% 的类都有< 0.01 概率，而很少有> 0.5 概率。出于某种原因，我希望概率在0 和1 之间以高斯分布分布。我想在这种情况下平均值应该是0.5，但如果可能的话，我也希望能够修改这种分布的平均值。 我希望对每一行分别进行此操作，如何使用 pandas 数据框来执行此操作？

Answer 1

如果您想重现更类似于高斯的分布，您所说的是单点加权（连续班级得分）。
所以我建议使用高斯分布权重来放大分数。
这里是一个例子：

import numpy as np
import pandas as pd
#Preparation of the data
nclasses = 10
nsamples = 5
df_c = []
for nc in range( nsamples ):
    a = np.random.rand(nclasses)
    a = [n/np.sum(a) for n in a]
    df_c.append( a )

df = pd.DataFrame(df_c)

# Now let's weight

for nr in range( df[0].count() ): #iterate over rows
    a = df.iloc[nr] #capture the nth row
    #generate Gaussian weights
    gw = np.random.normal( np.mean(a), np.std(a), len(a) )
    #sort gw and a in order to assign one to the other
    gw = np.sort(gw)
    b_ind = np.argsort(a) #indexes to sort a
    b = a[b_ind]          #sorted version of a
    # now weight the row
    aw_r = a*b # you can reduce the entity adding anotherfactor, like 0.8 for instance
    # back from sort
    aw = [ aw_r[n] for n in b_ind ]
    #update the dataframe
    df.iloc[nr] = aw

# there you go!

希望对你有帮助

更新__
如果您想将每一行的平均值调整为相同的值，例如 0.5，您只需减去行平均值与目标平均值之间的差值（在本例中为 0.5）。

a=np.array([1,2,3,47,2,6])
print( a.mean() ) # 10.1666
target_mean = 0.5

a_adj = a-(np.mean(a) - target_mean)
print( np.mean( a_adj ) ) # 0.5

这意味着在上面的主要示例中，在将 aw 替换为 df.iloc[nr] 之前，您应该这样做

aw = aw-(np.mean(aw) - 0.5)