如何测试 HTTP 客户端代理连接池的复用和释放行为

判断代理连接池是否复用，不能只看请求是否成功。需要先明确客户端连接池、HTTP 版本、代理协议、目标地址和认证配置，再根据客户端提供的连接 ID、复用标记及代理隧道记录确认连接关系。不同协议和计数口径下，客户端 TCP 连接、CONNECT 请求与业务请求并非一一对应。

连接复用是否发生，要看建连次数和 CONNECT 次数

本文讨论的连接复用以 HTTP 代理 CONNECT 隧道为例；HTTP 代理的企业接入与配置背景可参考HTTP 代理指南。

按实际客户端和协议分组观察连接：可先在连接池预热后发送顺序请求，再分别测试冷池并发、暖池并发和不同目标地址。记录每次请求的客户端连接 ID、库提供的复用标记，以及可获取时的代理隧道 ID。冷池 HTTP/1.1 并发中每个请求各建一条连接可能是预期行为，因此不能用“建连数少于请求数”作为普遍通过条件。

如果客户端与代理侧计数不一致，应先对齐观察时间、连接层级、HTTP 版本、重试次数和统计范围。只有在这些因素一致后，差异仍能由系统代理、容器网络或 SDK 的连接管理日志解释，才可将其归因到中间层。

记录客户端及版本、HTTP 版本、代理协议、目标与认证配置、连接池键、请求分组和计数范围。若客户端库不暴露连接 ID 或复用标记，应注明证据限制，并使用该库支持的诊断日志或受控代理记录补充，不以不同层级的计数直接推断复用。

连接何时释放，取决于哪项超时先触发

连接释放行为由客户端库、响应体消费方式、取消操作及代理或上游的连接策略共同决定。连接池容量上限可能限制保留数量，但不一定是计时器；读取超时也不等同于空闲连接回收。应按所用客户端库的 API 定义释放条件，并分别记录活动连接、空闲连接和相关资源的变化。

一种待验证的情况是：连接空闲后，客户端再次复用同一旧连接时失败，而新建连接可以成功。只有客户端复用标记、连接 ID、代理/服务端关闭事件等证据相互吻合，才能判断为旧连接已被对端回收；新建连接本身失败时，应另查连接建立、认证和上游处理阶段。

连接池复用正常，也可能受代理 IP 并发上限影响

客户端池子复用良好，不代表链路还有余量。账号、出口 IP 或 IP 池是否存在并发数和新建连接速率限制，以及配额按哪一层计算，都需要以实际产品后台或授权说明为准。出现排队、拒绝或断开时，应结合提供商的拒绝事件和配额信息核对，不从某个状态码单独推断触顶。

此时的证据不在客户端：要看代理侧的同时连接数与拒绝率，再看应用侧的超时是否集中出现在并发峰值处。两条证据叠不上，就别把问题归给代码。

四种常见异常分别指向哪些连接池问题

• 观察到的现象：空闲后复用旧连接时首个请求失败 ｜ 最可能的原因：可能复用了已关闭连接 ｜ 该看哪条证据：连接 ID、复用标记、关闭事件与重试记录
• 观察到的现象：连接数随请求数上涨或测试后不回落 ｜ 最可能的原因：可能未复用或释放未发生 ｜ 该看哪条证据：客户端连接状态、响应体消费与关闭事件
• 观察到的现象：并发峰值后集中出现 407 或 502 ｜ 最可能的原因：可能涉及认证、代理或上游故障 ｜ 该看哪条证据：响应来源、认证挑战、代理拒绝事件与上游记录
• 观察到的现象：换出口 IP 后复用表现完全不同 ｜ 最可能的原因：会话粘性或出口策略差异 ｜ 该看哪条证据：出口 IP 与建连数对照

测试记录应覆盖哪些数据，何时需要停止

• 测试项：请求集与并发 ｜ 记录内容：固定 URL、方法、请求头，并发档位
• 测试项：客户端池配置 ｜ 记录内容：客户端/版本、HTTP 版本、池键、空闲与总连接配置、读取/取消策略
• 测试项：客户端证据 ｜ 记录内容：连接 ID、复用标记、活动/空闲连接数、请求与重试结果
• 测试项：代理侧证据 ｜ 记录内容：可用的隧道/连接 ID、目标、并发计数、认证挑战与拒绝事件
• 测试项：结论 ｜ 记录内容：复用是否发生、释放是否按时、瓶颈在哪一层

释放测试至少覆盖：完整消费有限响应后关闭、提前关闭响应体、请求取消、异常读取、连接空闲到期，以及关闭客户端或 Transport。不要为验证释放而等待无限响应到达 EOF；应依据客户端库支持的关闭 API 和活动/空闲连接、文件描述符等资源是否回落来判定。

验收阈值要提前定，否则“看起来正常”就会变成唯一结论。

• 指标：复用判据 ｜ 建议阈值（示例）：按客户端库的连接 ID/复用标记定义 ｜ 统计窗口：区分冷池、暖池和协议版本
• 指标：请求失败率 ｜ 建议阈值（示例）：按业务可接受范围预先约定 ｜ 统计窗口：记录请求、连接和重试分母
• 指标：释放判据 ｜ 建议阈值（示例）：按客户端库 API 与资源回落条件定义 ｜ 统计窗口：区分完整消费、提前关闭、取消和空闲到期
• 指标：样本量与时长 ｜ 建议阈值（示例）：由业务风险和观察目标确定 ｜ 统计窗口：标注窗口、失败样本与未完成请求

阈值应在测试前依据业务要求和客户端行为约定。测试中若需调整，应保留原阈值、调整原因和前后分段结果。

出现代理侧限流、影响共享测试账号或其他并行任务，或达到事先设定的时长与资源停止条件时，应停止本轮并记录时间和原因。停止前后的原始数据仍有诊断价值，可分别标记受影响区间，不应一概删除或与正常区间混算。

FAQ

响应返回 200 就能说明连接被复用了？

不能。状态码只说明业务响应结果。复用应结合客户端库提供的连接 ID、复用标记及适用协议下的连接或隧道记录判断；并发冷池中建连数接近请求数也不必然代表故障。

同样的池配置，为什么两台机器表现不同？

原因可能包括客户端或运行库版本、HTTP 版本、池键、DNS、代理设置和中间层连接管理差异。先收集两端同一时间窗、同一连接层级的记录，再判断是否存在额外连接管理层。

什么情况下应该立刻停止测试？

达到预先设定的限流、共享资源影响、时长或资源停止条件时。记录停止时间与触发证据，并将受影响区间单独标记；保留原始样本以便分析，不将异常区间与正常区间混为一个统计结果。

连接池表现取决于客户端回收策略、代理侧并发上限和中间层连接管理。接入参数可查阅代理设置帮助。客户端和代理侧记录不一致时，应先核对连接层级、统计范围和重试记录；目前没有可确认有效的并发规划或故障排查专题链接，因此此处不加未经核验的目标。