为云服务实现 API 节流的速率限制模式

Question

我想对所提供的一组服务实施限制。 在峰值负载下，我想限制或拒绝对长时间运行的用户或发送大量数据的用户或其他甚至可以在后期进行配置的规则的服务。 我打算用java和spring框架来编码。

我已阅读有关速率限制模式的信息。stack-overflow 帖子建议的一种可能实现是Token_bucket。文章感觉很复杂。 任何人都可以建议其他替代方法或模式。以及描述它们的好文章。

我还从微软找到了另一个 pdf - cloud design pattern。 但它并没有提供太多关于实现节流模式的内容。但类似的文章将不胜感激。

Answer 1

我相信我们也可以在这里使用断路器模式，并在达到速率限制后将电路置于打开状态。 然而，电路必须将其重置为关闭状态。