每秒请求数和响应时间之间的相关性？答案

【问题标题】：Correlation between requests per second and response time?每秒请求数和响应时间之间的相关性？
【发布时间】：2009-03-31 15:17:44
【问题描述】：

有人能解释一下每秒请求数和响应时间之间的关系吗？你一开始想改进哪个？如果您的竞争对手在其最常用的功能上提供的“每秒请求数”少于您，那么您的应用程序在最终用户性能方面的表现是否更好？

【问题讨论】：

【解决方案1】：

有人能解释一下每秒请求数和响应时间之间的关系吗？

把这种情况想象成一个加油站。 汽车以不同的间隔到达并占用一个泵；他们花了一些时间填满，然后离开。

您可以通过两种方式改进：

你一开始想改进什么？

这取决于。您是想更快地为人们服务（改善他们的体验，同时让其他人等待），从而总体上为更多的人服务，还是想一次为更多的人服务（可能会花费请求时间）？理想情况下，让这两个指标都尽可能好。

【讨论】：

非常好，谢谢。如果我改进我的泵（在软件中寻找效率低下的算法，引入缓存，更少的 sql 请求）并通过加油站吞吐量验证改进，这也意味着每个“维修汽车”都变得越来越快 - 对吗？
是的；如果您花更少的时间处理请求，那么随着时间的推移，您实际上可以在同一台泵上为更多的汽车提供服务。
那么您认为了解您的“竞争对手”每秒的请求数是否可以，说明“20 RPS 会很好”之类的内容并尝试在质量保证步骤中达到此目标还是这样？将苹果与橙子相提并论？此 QA 步骤的目标是说“我们的表现很好”
除非您的产品接近互联网商品状态（例如搜索），否则我会说这是苹果到橘子。如果您真的想知道自己的表现如何，请进行负载测试以使您的系统接近阈值，然后添加一个真实用户并询问他们对网站性能的看法。

【解决方案2】：

这完全取决于您的系统将承受什么样的负载。

如果您有数百万用户，那么您可能需要每秒处理更多请求，这可能会牺牲响应时间，否则用户可能无法在需要时连接。

但是，如果您只有 30 个用户，那么对他们来说，您的系统响应速度比每秒处理一千个请求更重要。

【讨论】：

【解决方案3】：

每秒的请求数可能很高，同时提供了糟糕的用户体验。您可能有很多用户每秒购买数千张音乐会门票，但每个用户的响应时间超过 30 秒。

对于一个高性能、令人愉快的网站，您需要每秒有大量的请求和最大响应时间。作为用户，我喜欢 5 秒或更短的时间。

【讨论】：

我当时没明白：响应时间和每秒请求数不应该成反比吗？因此，如果您的响应时间从每个请求的 3 秒增加到 30 秒，那么每秒的请求数应该会减少。但是他们仍然可以高瞻远瞩（如果我也没有看到响应时间）对吗？
没有。如果处理的一部分是将请求写入 USB 密钥，将其从计算机中心扔给实习生，并使用安全私钥对所有数据进行签名？一个 8GB 的 USB 密钥可以在 2 分钟内处理一百万个请求，但响应时间仍然是 2 分钟。
这个例子我看不懂，你能再试一次吗？

【解决方案4】：

如果您的竞争对手在其最常用的功能上提供的“每秒请求数”少于您，那么您的应用程序在最终用户性能方面的表现是否更好？

我不同意这一点。看看谷歌。他们每秒发出数千个请求——见鬼，我认为这大约是每天 1 亿个，每月 30 亿个。

为了回答您的问题，我认为响应时间比每秒请求数更重要。当然，您可以优化/最小化发出的请求数量，但如果您的产品可以扩展以处理无限的请求（只需在问题上投入更多硬件），那么我认为这更有价值。

【讨论】：