具有多个客户端和防止缓存踩踏的 PHP Web 服务的最佳方法

Question

我有一个现有的 PHP Web 服务，用于执行需要大约 10 秒才能运行的复杂计算。特定的客户端使用模式是多个客户端几乎总是会在 10 秒的窗口内请求相同的计算。

目前，我们只是允许所有人并行运行。显然，这是昂贵且不必要的，因此请寻找最简单的方法来防止这种常规缓存踩踏。

理论上，我们想做的只是让第一个客户端请求去计算结果，然后将计算结果放入缓存中。如果后续客户端请求到达并正在寻找该结果：

a) 如果结果已经被缓存 - 太好了！ b) 如果结果尚未缓存，但正在处理，请等到它出现在缓存中，然后再将该值返回给客户端。

我已经准备好几种不同的方法，但我很想听听任何实用的建议或建议，以帮助决定最简单和最简单的方法。

我们尚未做出缓存决定，因此也欢迎就使用哪个缓存提出建议。音量很低，因此内存中可能很好。是否有任何缓存实现可以真正解决问题并阻止另一个线程实际上正在填充缓存条目的缓存读取？

缓存是正确的做法吗？我们应该改用队列吗？！

任何基于实践经验的想法或建议将不胜感激。

Answer 1

就您可以实施的解决方案而言，我会使用工作线程根据传入的请求队列进行计算。因此对于第一个请求，worker 将检查缓存（未命中）、计算值、存储在缓存中并返回值。来自队列的任何后续请求都会从 worker 获取缓存值。

现在，如果您不喜欢工作线程和队列，您可以在“检查缓存、进行计算、存储在缓存中”代码块上使用互斥锁来实现相同的效果。

就防止缓存踩踏（有时也称为 dogpiling）的缓存解决方案而言，是使用支持通读缓存的缓存。通读缓存基本上意味着缓存知道在未命中的情况下从哪里获取值。在这种情况下，它将是一个支持脚本来计算值的缓存，以防它不在缓存中。