【问题标题】:Do X and y have to be randomly ordered in Random Forest? [closed]X 和 y 必须在随机森林中随机排序吗? [关闭]
【发布时间】:2021-09-12 18:46:02
【问题描述】:

这里是sklearn.ensemble.RandomForestClassifier.fit() 的帮助。目前尚不清楚当 X 和 y 按标签排序时是否会出现问题。我的初步测试表明 X 和 y 是否排序无关紧要。

知道实现的人可以确认我的结论是否正确吗?

Help on class RandomForestClassifier in module sklearn.ensemble._forest:

class RandomForestClassifier(ForestClassifier)
...
 |      Build a forest of trees from the training set (X, y).
 |
 |      Parameters
 |      ----------
 |      X : {array-like, sparse matrix} of shape (n_samples, n_features)
 |          The training input samples. Internally, its dtype will be converted
 |          to ``dtype=np.float32``. If a sparse matrix is provided, it will be
 |          converted into a sparse ``csc_matrix``.
 |
 |      y : array-like of shape (n_samples,) or (n_samples, n_outputs)
 |          The target values (class labels in classification, real numbers in
 |          regression).

【问题讨论】:

  • 通过打乱数据来破坏这种排序总是是个好主意,因为非常普遍的原因与 RF 无关;在Data shuffling for Image ClassificationConfusion Matrix : Shuffle vs Non-ShuffleCross_val_score is not working with roc_auc and multiclass 中查看自己的答案
  • 我对射频特别感兴趣。我想了解 RF 的正常工作是否需要随机有序输入或排序输入仍然同样有效。您提到的所有链接都不能证明sklearn.ensemble.RandomForestClassifier.fit 需要对输入进行改组。
  • 因为它本身并不像已经暗示的那样;但是还有许多其他原因可以让您这样做。这就是为什么在几乎所有 ML 管道中都经常包含改组的原因,无论使用何种算法。
  • 另一方面,究竟你在问这里吗?当数据按标签排序时,有什么理由相信算法可能有问题?您的帖子中没有任何内容可以远程暗示可能是这种情况,那么您需要什么样的确认?
  • 为什么这个问题被关闭了?我认为这是一个非常明确的问题。并且已经有了答案。以不清楚的方式结束这个问题是没有意义的。

标签: scikit-learn random-forest


【解决方案1】:

RandomForestClassifier的情况下并不重要。

随机森林是一种弱学习者的合奏,可以执行大多数投票

因为我们需要基于不同的特征来具有不同的树木,算法使用Bootstrapping(参数bootstrap=True 987654326 @),它正在执行随机采样 strong >。除了引导样本之外,我们还绘制随机的特征子集来训练单个树

Bootsrapping对于随机森林至关重要。没有它,所有树木都会或多或少类似,并基于相同的功能。这将破坏大多数投票的整个目的。

因此我们可以说样品的顺序无关紧要。然而,正如Descraynaut在他们的comment一样,随着其他潜在问题,可以更好地洗牌以避免其他潜在问题。

注意:satrquest videos上的主题真的很高兴了解它如何在深度工作。

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-08-22
    • 2014-08-07
    • 2015-10-15
    • 2015-02-15
    • 2018-07-10
    • 2015-09-16
    相关资源
    最近更新 更多