代理承载能力的压测方法：并发、带宽与失败率的真实上限

帮助中心代理使用代理承载能力的压测方法：并发、带宽与失败率的真实上限

作者：山水代理

发布时间： 2026-10-29 10:05:04

阅读量： 10 人次

套餐写的并发数不等于你能跑到的并发数

采购代理时看到的"支持 500 并发"，是服务侧的容量口径，不等于你的业务真能跑到 500。真实上限取决于连接复用方式、请求大小、目标站点响应速度、本地出口带宽，以及失败率能容忍到什么程度。这些只能靠压测确定。本文给一套可执行的压测方法，输出可以直接写进容量规划的数字。

一、先把"上限"定义清楚

1、四个不同的上限
并发上限指同时在途请求数；吞吐上限指每秒完成请求数；失败率拐点指失败率开始明显上升的那个点；延迟拐点指延迟开始抬升的那个点。通常延迟先拐、失败率后拐，容量规划应取延迟拐点之前的区间。

2、成功但超时的请求要算失败
很多压测只统计状态码，忽略了超过业务可接受耗时的请求。这类请求在报表里是成功的，在业务上是无效的。口径必须按"在时限内完成"统计。

3、和业务目标对齐
上限的意义在于能不能在窗口期内跑完既有数据量。先算出"每天要跑多少条、可用窗口多长"，再反推需要的吞吐，否则压测数字再漂亮也无法判断够不够用。

二、测试设计：把变量控制住

1、一次只变一个量
并发、连接复用、目标站点、请求大小，一次只调一个。同时改多个量，结果无法归因，只能得到"慢"这个笼统结论。

2、目标站点要选稳定的
用会限速或会抖动的站点压测，测到的是目标站的上限。选一个响应稳定、不限流的小页面做基准，再用真实目标做对照。

3、连接复用与短连接分别测
两种模式的承载能力差距可能很大。业务实际用哪种就主测哪种，另一种作为参考，否则容易得出与实际不符的结论。

4、预热后再统计
刚启动阶段有连接建立、证书校验、DNS 解析等一次性开销。掐掉前一段时间的数据再统计，否则会低估真实能力。

5、记录完整的环境信息
压测机配置、本地出口带宽、代理类型与地区、目标站点、请求大小都要记。脱离环境谈"能扛多少并发"没有意义。

三、四个必测项

1、阶梯并发找拐点
并发从低到高分若干档，每档跑固定时长，记录吞吐、平均延迟、P95 延迟、失败率。找到延迟明显抬头或失败率上升的那一档，前一档就是可用上限。

2、带宽饱和点
用大响应体测。吞吐不再随并发上升、延迟持续增大时，说明撞到了带宽或流量配额。按流量计费的套餐尤其要测这个，否则容易在月中断流。

3、长连接稳定性
保持中等并发跑较长时间，观察连接是否被中途回收、失败是否集中在某个时间点。这能暴露链路上的空闲超时与节点切换问题。

4、突发与水锤
从空闲瞬间拉起高并发，看爬坡时间与失败情况。定时任务往往就是这个形态，稳态压测通过不代表突发也能通过。

四、四种常见误判

1、把目标限流当代理瓶颈
并发一高失败率就上，但换成多个出口就能缓解，说明是目标按 IP 限流，不是代理扛不住。区分方法：多出口同时压，看总量是否线性增长。

2、把本地出口当代理带宽
压测机的公网出口先打满的话，测到的是自己机房的上限。压测前先确认压测机自身的带宽余量。

3、只看平均延迟
平均值会掩盖长尾。同样的平均延迟，P95 差一倍，业务体感完全不同。延迟分布比平均值更有决策价值。

4、一次测试下结论
节点状态、目标站状态、网络状况都会变。至少做两轮，间隔开时间，结果一致才可信。

五、把结果写进容量规划

1、并发按拐点的七成设置
生产并发压在延迟拐点之前留出余量的位置，给突发和重试留空间。跑在拐点上，任何波动都会带来失败。

2、节点数按失败率容忍度冗余
单节点能力乘以节点数要覆盖目标吞吐，并额外留出故障冗余。冗余不足时，一个节点被限流就会拖垮整体。

3、重试预算单独算
重试会额外消耗容量。按失败率估算重试量，计入总并发，否则实际负载会超出压测结论。

4、告警阈值取自压测基线
延迟、失败率、在途请求数的告警线，直接从压测曲线上取，而不是拍脑袋定。有基线之后，"今天变慢了"才有客观判断依据。

5、变更后重测
换代理类型、改连接复用、调整并发、更换目标站点，任一项变化都要重测。容量结论是有时效的。