核心问题

如何估算系统需要承受多少并发？

工程困境

团队说“我们 QPS 只有 100，不高”。但如果每个请求平均耗时 2 秒，系统中同时在处理的请求就是 200 个。

思想模型

Little’s Law：

并发量 = 吞吐量 × 响应时间
L = λ × W

如果吞吐 100 req/s，平均响应 0.5s，并发约 50。
如果响应变成 5s，并发变成 500。

工程用途

  • 容量规划
  • worker 数量估算
  • 队列长度理解
  • 连接池大小判断

Atlas Action

选一个接口，估算：

峰值 RPS × P95 响应时间 = 峰值并发压力

小结

延迟不是只影响用户体验，它会直接变成系统并发压力。