LRU 缓存如何用于 trie 数据结构？答案

【问题标题】：How would an LRU cache work for a trie data structure?LRU 缓存如何用于 trie 数据结构？
【发布时间】：2019-07-05 06:48:36
【问题描述】：

假设我有一个总限制为 10 个节点的 trie/前缀 trie。我限制为 10 个节点来模拟超出的内存。（如果我无法将整个树加载到内存中，我总共有 10 个节点存储在磁盘上。

我现在将一个新字符串插入到树中，这将导致树超过 10 个节点的限制，所以现在是 LRU 缓存从树中驱逐最近最少访问的节点的时候了。

假设树包含单词 hello、help、hi 并且 LRU 节点是“h”。这意味着我需要从 trie 中删除“h”，在这种情况下这将删除整个树。我的困惑还在于更新缓存本身以删除所有孩子。在这种情况下这是如何工作的？

我假设缓存有“h”、“he”、“hel”、“help”等节点。如果我删除“h”节点，我假设我需要删除缓存中所有前缀为“ H”？我的整个假设似乎真的很低效。

【问题讨论】：

为什么会有一个限制节点数量的 trie 自动删除“旧”节点？这是什么意思？显然删除“h”是没有意义的——即使 LRU 节点是树的根节点，“h”又如何呢？怎么能少用它的孩子呢？
10 个节点的限制将是一个假设模拟，以模拟我可以一次加载到内存中的节点数量的限制。如果我在前缀树中插入“hello”，我会插入“h”，然后是“he”，然后是“hel”、“hell”、“hello”。在这种情况下，最新的插入节点是“hello”前缀中的“o”，而最旧的插入节点是“h”，不是吗？
LRU 最近最少使用；由于您没有从特里检索任何东西，我会说他们都有相同的年龄。删除除叶节点之外的任何东西似乎都不是很明智，因为删除任何非叶节点也会自动删除其所有子节点。但是删除单个节点似乎不太明智 - 只删除您插入到 trie 中的字符串；但是 trie 通常不会保留插入的原始字符串，因此除非您修改数据结构（可能按每个节点使用的字符串数来计算）否则很难删除它们
当达到内存限制时，是否有更明智的方法来读取/写入前缀 trie 片段到磁盘并返回到内存中？我假设一些基于内存使用的 LRU 策略将是它的工作原理，但节点的实际驱逐确实让我感到困惑。我不认为他们都具有相同的年龄，因为我认为 LRU 缓存通常表示为双向链表。

标签： java tree prefix trie lru

【解决方案1】：

在谈论缓存时要记住的一点是，它是一种冗余数据结构，其唯一目标是加快数据获取速度。
因此，当从缓存中清除一条数据时，它对使用该数据的程序没有任何影响（除了执行速度），因为它将从主内存中获取。因此，无论如何，您的 trie 将具有完全相同的行为，无论它的哪一部分位于缓存中。

这非常重要，因为它允许我们使用高级语言（例如 java）进行编码，而无需关心处理器实现的缓存的替换策略。如果不是这样，那将是一场噩梦，因为我们必须考虑到处理器中实施的所有现有（和未来？）替换策略。更不用说这些策略不像 LRU 那样简单（有缓存集，将缓存划分为“行”，它们的行为也与它们的物理结构密切相关），并且一块数据的位置将位于缓存中取决于其在主存储器中的地址，对于每个代码执行而言，该地址不一定相同。

简而言之，您提到的两件事（java中的trie节点和LRU缓存策略）相距甚远（一个是非常非常低级的编程，另一个是高级）。这就是为什么我们很少（如果有的话）考虑它们的相互作用。
如果你在 java 中实现一个 Trie，你的工作是确保它在所有情况下都能正常工作，它设计得很好，因此维护会更容易（可能），它是可读的，以便其他程序员有朝一日可以使用它。最后，如果它仍然运行得太慢，您可以尝试优化它（在确定瓶颈在哪里之后，从来没有过）。
但是，如果您想将您的 trie 链接到缓存命中/未命中和替换策略，您将必须读取字节码中的实现翻译（由 JVM 完成）。

PS：在您的帖子中，您谈到了模拟内存被执行。程序没有这样的东西。当缓存已满时，我们会填满主存。当主存已满时，操作系统通常会保留一部分硬盘驱动器来扮演主存的角色（我们称之为交换，当它发生时，计算机就像死机一样）。当交换已满时，程序崩溃。全部。
在程序的“头脑”中，操作系统为它提供了绝对巨大的内存（这是虚拟的，但对于程序来说它和真实的一样好），永远不会被填满。程序本身并不“意识到”内存的管理方式以及剩余的内存量，原因有很多（安全性，保证所有程序都将拥有公平的资源份额......）

【讨论】：

感谢您的回复，这清楚了很多。我想我的主要困惑是在 trie 和磁盘之间交换值，反之亦然。假设我有 2mb 的内存和 100tb 的磁盘。如何从磁盘加载和卸载？
通常，我们将此操作称为“序列化”（和反序列化）。在 java 中，实现接口 'serializable' 的对象可以从文件中保存/加载。
如果您想从光盘加载一些大于 RAM 的数据，通常您将拥有 2 个合理的选择：1- 获得更多 RAM 2- 使用更少 RAM。您始终可以从磁盘加载/保存到磁盘，但是任何时候您希望执行这样的操作都将花费大量时间（仅延迟数十个，如果不是数亿个 CPU 周期）。原理一般是把所有的数据都存到RAM中，然后用它来工作。