【问题标题】:What should be the proportion of positive and negative examples to make a training set result in an unskewed classifier?使训练集产生无偏分类器的正例和负例的比例应该是多少?
【发布时间】:2014-11-27 04:29:33
【问题描述】:

我的训练数据集包含一个类的 46071 个示例和另一个类的 33606 个示例。这会导致分类器倾斜吗? 我正在使用 SVM,但不想使用 SVM 的选项来处理倾斜数据。

【问题讨论】:

    标签: machine-learning svm training-data


    【解决方案1】:

    如果分类类别没有大致相等地表示(我认为没有精确值),则数据集是偏斜的。

    您的数据集不是高度不平衡的数据集。无论如何,它可能会导致偏向于多数(可能是无趣的)类,尤其是使用准确度来评估分类器。

    可以通过多种方式管理倾斜的训练集。两种常用的方法是:

    • 在数据层面a form of re-sampling

      • random oversampling 有替换,
      • 随机欠采样,
      • 定向过采样(不创建新示例,替换样本的选择是知情的而不是随机的),
      • 定向欠采样,
      • 在知情的情况下生成新样本进行过采样,
      • 上述技术的组合。
    • 在算法层面,调整各个类的成本,以对抗类不平衡。

      即使您不喜欢这种方法,您也可以使用 SVM 更改类权重方案(例如 How should I teach machine learning algorithm using data with big disproportion of classes? (SVM))。您可能更喜欢这种方式而不是二次抽样,因为这意味着由于使用了特定的二次抽样,结果不会发生变化。

    值得注意的是(来自Issue on Learning from Imbalanced Data Sets):

    在某些领域(例如欺诈检测),类别不平衡是 问题的本质:通常很少有欺诈案例 与大量诚实使用设施相比。

    但是,类别不平衡有时会发生在没有 内在的不平衡。

    当数据收集过程受到限制时(例如,由于 出于经济或隐私原因),从而造成人为的不平衡。

    相反,在某些情况下,数据比比皆是,而且它用于 科学家来决定选择哪些样本和数量。

    此外,制作成本也可能存在不平衡 不同的错误,可能因情况而异。

    所以这一切都取决于你的数据,真的!

    更多细节:

    【讨论】:

      猜你喜欢
      • 2012-05-30
      • 1970-01-01
      • 2015-01-13
      • 1970-01-01
      • 2016-08-23
      • 2017-06-27
      • 2018-08-30
      • 2022-12-24
      • 2021-07-03
      相关资源
      最近更新 更多