使用朴素贝叶斯分类器进行在线学习

Question

我正在尝试预测传入网络数据包的到达间隔时间。我测量网络数据包的到达间隔时间并以二进制特征的形式表示此数据：xi= 0,1,1,1,0,... 其中 xi如果到达间隔时间小于收支平衡时间，则 em>=0，否则为 1。必须将数据映射到两个可能的类 C={0,1}，其中 C=0 表示 短 到达间隔时间1 表示long 到达间隔时间。由于我想在在线特征中实现分类器，只要我观察到特征向量 xi=0,1,1,0...，我就会计算 MAP 类。由于我没有条件概率和先验概率的先验估计，我将它们初始化如下：

p(x=0|c=0)=p(x=1|c=0)=p(x=0|c=1)=p(x=1|c=1)=0.5
p(c=0)=p(c=1)=0.5

对于每个特征向量(x1=m1,x2=m2,...,xn=mn)，当我输出一个类C时，我更新条件和先验概率如下：

p(xi=mi|y=c)=a+(1-a)*p(p(xi=mi|c)
p(y=c)=b+(1-b)*p(y=c)

问题是，我总是得到一个有偏见的预测。由于long的到达间隔次数比short要少，所以short的后总是保持不变高于long。有什么办法可以改善这一点吗？还是我做错了什么？任何帮助将不胜感激。

Answer 1

由于您的时间序列很长，因此最好的方法可能是考虑多个先前的值。这样做的标准方法是使用时间窗口，即将长向量 Xi 拆分为恒定长度的重叠部分，最后一个值被视为类，并将它们用作训练集。这也可以通过在线方式在流数据上完成，方法是在新数据到达时使用新数据增量更新 NB 模型。

请注意，使用这种方法，其他回归算法最终可能会比 NB 更好。

Weka（3.7.3 及更高版本）有一个非常好的dedicated tool 支持时间序列分析。或者MOA也是基于Weka，支持流数据建模。

编辑：从二元特征转移到实际值（可能是标准化的）并应用阈值后分类可能也是一个好主意。这可能会为回归模型（NB 或其他）提供更多信息，从而提高准确性。