对平均响应时间和每秒调用次数的相关性感到困惑

Question

我有平均响应时间，可以说是 10 秒，我的服务可以处理的最大并行连接数是 10。现在，我如何计算我的服务的每秒调用次数 (CPS) 值从这些数据处理？

我的猜测是 1 / 10（= 平均时间）= 0.1 CPS 或 1 / 10（平均时间）* 10（并行流）= 1 CPS。

Answer 1

如果您只是测量平均吞吐量，那么是的，10 秒内 10 次调用是每秒 1 次。

您的用户/消费者也可能（更多地）担心延迟（平均响应时间），他们都为 10 秒。

如评论中所述，平均只是故事的一部分。您的服务如何处理峰值负载 - 吞吐量在某个点之后急剧下降，还是随着负载的增加而降级更加优雅？ 10 秒是最好的响应时间，还是在低负载条件下更好？在高负载下更糟？

有一些针对 .Net 的旧但有用的指南，但普遍感兴趣，here。