如何在 K 最近邻中选择正确的 k 值

Question

我有一个包含 9448 个数据点（行）的数据集 每当我选择介于 1 到 10 之间的 K 值时，准确度都会达到 100%（当然这是一个理想的情况！）而且很奇怪。

如果我选择我的 K 值为 100 或更高，则准确度会逐渐降低（95% 到 90%）。

如何选择 K 的值？我们想要一个不错的准确性，而不是假设为 100%

Answer 1

嗯，选择 k 的一种简单方法是 sqrt（数据点数）。在这种情况下，它将是 sqrt(9448) = 97.2 ~ 97。请记住，不看数据就说哪个 k 值最适合是不合适的。如果相似类的训练样本形成聚类，那么使用从 1 到 10 的 k 值可以达到很好的准确率。如果数据是随机分布的，那么就不能说哪个 k 值会给出最好的结果。在这种情况下，您需要通过经验分析来找到它。