KD-Trees 和缺失值（向量比较）

Question

我有一个存储向量的系统，并允许用户找到与用户查询向量最相似的 n 个向量。也就是说，用户提交了一个向量（我称之为查询向量），我的系统会吐出“这是 n 个最相似的向量”。我使用 KD-Tree 生成类似的向量，一切正常，但我想做更多。即使用户没有提交完整的向量（具有缺失值的向量），我也想提供 n 个最相似向量的列表。也就是说，如果用户提交了一个3维的向量，我仍然想找到我存储的n个最近的向量（存储的向量是11维）。

我有几个明显的解决方案，但我不确定任何一个看起来都很好：

1. 创建多个 KD 树，每个 KD 树都使用用户将搜索的最流行的维度子集构建。也就是说，如果用户提交了一个维度为 x、y、z 的查询向量，我将该查询与我已经构建的 KD-Tree 匹配，该 KD-Tree 仅包含三个维度的向量 x、y、z。

2. 当用户提交带有缺失值的查询向量并使用点积之类的方法将查询向量与向量（存储在数据库中的表中）一一进行比较时，忽略 KD 树。

这一定是一个常见问题，有什么建议吗？感谢您的帮助。

Answer 1

您的第一个解决方案对于查询可能是最快的（因为树构建不考虑在您不关心的方向上进行拆分），但它肯定会占用大量内存。如果你必须反复重建树木，它可能会变慢。

除非你只有几个点，否则第二个选项看起来很慢。如果是这样的话，你可能一开始就不需要 kd-tree :)

我认为最好的解决方案是亲自动手编写正在使用的代码。大概最近邻搜索计算树叶中的点与查询向量之间的距离；您应该能够修改它以处理点和查询向量大小不同的情况。例如。如果树中的点以 3D 形式给出，但您的查询向量的长度仅为 2，那么点 (p0, p1, p2) 和查询向量 (x0, x1) 之间的“距离”将为

sqrt( (p0-x0)^2 + (p1-x1)^2 )

我没有深入研究您链接到的 java 代码，但如果您需要帮助，我可以尝试找出需要进行更改的确切位置。

-克里斯

PS - 您可能不需要上述等式中的 sqrt，因为距离的平方通常是等价的。

编辑 抱歉，没有意识到它在源代码中会如此明显。你应该使用这个版本的邻居函数：

nearest(double [] key, int n, Checker<T> checker)

并实现你自己的 Checker 类；查看他们的 EuclideanDistance.java 以查看欧几里得版本。您可能还需要注释掉查询代码抛出的任何 KeySizeException，因为您知道可以处理不同大小的键。

Answer 2

您的第二个选项看起来是您想要的合理解决方案。

如果有的话，您还可以用最重要的（或平均值或您认为应该是的任何值）填充缺失的维度。

Answer 3

您可以尝试使用现有的 KD 树——当拆分是针对源向量未提供的维度时，采用两个分支。这应该比进行蛮力搜索花费更少的时间，并且可能比尝试为维度子集维护一堆专门的树更少麻烦。

您需要调整您的 N-closest 算法（没有更多信息，我无法就此提供建议...），对于距离，您将仅使用源向量提供的那些元素的平方和.

Answer 4

这就是我最终做的事情：当用户没有指定值时（当他们的查询向量缺少维度时），我只是将我的匹配范围（在 API 中）调整为很大，以便匹配任何值。