“解决缺失数据”如何帮助 KNN 更好地发挥作用？

Question

来源：-https://machinelearningmastery.com/k-nearest-neighbors-for-machine-learning/

此页面有一段引用以下段落：-

KNN 的最佳准备数据

重新调整数据：如果所有数据都具有相同的规模，KNN 的表现会更好。将数据规范化到 [0, 1] 范围内是个好主意。如果数据具有高斯分布，那么标准化您的数据可能也是一个好主意 分布。

地址缺失数据：缺失数据将意味着无法计算样本之间的距离。可以排除这些样本，也可以估算缺失值。

低维：KNN 适用于低维数据。您可以在高维数据（数百或数千个输入变量）上尝试它，但请注意它的性能可能不如其他技术。 KNN 可以从降低输入特征空间维数的特征选择中受益。

请问有人可以详细解释第二点，即地址缺失数据吗？

Answer 1

在这种情况下缺少数据意味着某些样本不具备所有现有特征。

例如：

假设您有一个包含一组人的年龄和身高的数据库。 这意味着对于某些人来说，缺少身高或年龄。

现在，为什么这会影响 KNN？

给定一个测试样本 KNN 找到更接近它的样本（又名：年龄和身高相似的学生）。 KNN 这样做是为了根据最近的邻居对测试样本进行一些推断。

如果您想找到这些邻居，您必须能够计算样本之间的距离。要计算 2 个样本之间的距离，您必须拥有这 2 个样本的所有特征。

如果其中一些缺失，您将无法计算距离。 所以隐含地你会丢失数据丢失的样本