Web API 极高负载保护

Question

假设我有一个每秒可以处理 100 个请求的 web api。一次，我的 api 有 10000 次请求/秒的命中率并使其崩溃。一年只发生一次，我们不知道为什么会发生。

那么，作为开发者，我们在设计 API 的时候，是否应该考虑这样的场景呢？ API 是否应该受到这种峰值负载的保护？如果是，应该在哪一层做，怎么做？

Answer 1

那么，作为开发者，我们在设计 API 的时候，是否应该考虑这样的场景呢？

是的。

API 是否应该受到这种峰值负载的保护？

是的。

如果是，应该由哪一层来做以及如何做？

最好由您的服务器（例如 IIS）处理，但您也可以在服务层处理它。您要搜索的术语是“速率限制”和“请求限制”。 SO上有几首热门歌曲可以让你开始。如果您使用的是 IIS，还可以搜索“IIS 动态 IP 限制”。