商品价格监控使用代理 IP 时如何控制频率?
商品价格监控使用代理 IP 时如何控制频率?提供小样本测试起点、域名与单 IP 频率预算、退避规则,以及 403、429 和验证码的日志判断方法。
商品价格监控应从单域名、小样本、低并发开始,再根据商品更新周期、响应时间和错误信号逐步调整。代理 IP 只负责访问出口,不能替代频率控制;连续出现 429、验证码或响应显著变慢时,应暂停并退避,而不是立刻增加并发或轮换出口。
商品价格监控应该从什么频率开始?
用小样本建立频率基线
下面的数字只是测试起点示例,不是任何平台的通用速率规则。执行前仍要查看目标网站的 robots.txt 规则、公开 API、服务条款和适用法律;网站返回 429 Too Many Requests 并给出 Retry-After 时,优先遵从该响应头。
| 阶段与配置(示例) | 观察指标 | 触发条件 | 调整动作 |
|---|---|---|---|
| 起点:单域名、5 个公开商品页、并发 1、每次请求间隔 10–20 秒 | 状态码、响应时间、页面类型、验证码、数据更新时间 | 连续两次 429,或出现验证码 | 立即暂停该域名,按本节退避规则处理 |
| 加压:首轮无异常后只增加一个变量,例如样本扩至 10 个 | 429/403 比例、超时比例、P95 响应时间 | 错误率上升,或 P95 相比首轮明显变慢 | 回退到上一档,不同时增加样本、并发和频率 |
| 恢复:仍保持并发 1,并先请求 1–2 个页面 | 连续成功次数、页面结构是否正常 | 再次收到 429/验证码 | 延长暂停时间;当天不再对同一页面反复试探 |
| 稳定:按商品更新周期安排定时采样 | 新价格比例、重复数据比例 | 多轮数据无变化 | 降低采样频率,减少无效请求 |
触发 429 或验证码后怎样退避?
递增间隔可按“首次等待 1 个周期,下一次等待 2 个周期,再下一次等待 4 个周期”的思路实现,并设置最大等待时间。具体周期由目标网站规则和业务时效决定,不应把表中的秒数复制成全站配置。
例如,首次请求后等待 30 秒,下一次等待 60 秒,再下一次等待 120 秒;如果期间再次出现 429 或验证码,就停止该域名任务,而不是继续加快请求。
如何根据日志判断应该降频还是更换代理 IP?
日志需要记录哪些字段?
至少记录时间、域名、页面类型、任务批次、并发、请求间隔、代理 IP 标识、出口地区、状态码、响应时间、验证码位置、重试次数和 Retry-After。代理 IP 标识使用内部编号或掩码,不在日志中保存认证密码。
脱敏日志示例:
```text
2026-09-15T10:12:30+08:00 domain=shop.example page=product batch=B017 concurrency=1 interval_s=15 proxy=P-***-SG status=429 latency_ms=1840 captcha=none retry_after_s=60 retry=0 action=pause_domain
```
什么情况下才更换代理 IP?
这条记录显示同一请求尚未重试,服务器已返回 429 和 60 秒的 Retry-After,应按上一节的退避规则处理,不能据此直接判定代理 IP 有问题。只有低频对照下异常持续集中在某个代理 IP 或地区,而同页面、同时间段、同请求参数在合规对照出口正常时,才更换代理 IP 做小样本复核。
请求间隔、并发和重试怎么调整?
先调整请求间隔,再考虑并发
每轮只改变一个变量,先调请求间隔,再评估样本量,最后才考虑并发。不要同时增加商品数、并发和请求频率,否则出现异常时无法判断是哪项变化导致。
轮换出口不等于可以提高频率
频率上限按目标域名计算,不按出口 IP 数量计算。轮换 10 个出口,不代表同一域名的总请求量可以扩大 10 倍;测试阶段仍保持域名级 10–20 秒间隔,并发保持 1。
同时给每个代理 IP 设置二级上限。目标网站没有公开频率要求时,内部试运行可暂以单 IP 并发 1、每分钟不超过 4 次、每日不超过 300 次作为便于观察的保守示例;这些数字不是通用安全线,也不能覆盖目标网站规则。各出口只有处在相近请求量和页面类型下,日志中的异常集中度才具有可比性。
429、超时和临时 5xx 怎么退避?
对 429、超时和临时 5xx 使用有上限的递增退避,并加入少量随机抖动,避免多个任务同时恢复。收到 Retry-After 时优先按响应头等待;403 则先检查权限、请求参数、Cookie 和页面变化,不要把所有 403 都当成限流。
不同页面和任务如何设置上限?
登录页、购物车、结账页和公开商品页要分开管理,不能共用一套请求频率。为单商品、单页面和单域名分别设置每日上限,达到上限后停止任务并告警;未经授权不采集受限数据。
价格监控应该选择哪种代理 IP?
需要合规覆盖多个国家、地区或较多公开商品样本时,可使用动态住宅代理 IP,但仍应按域名限速并保留会话记录。需要填写代理协议、主机和端口时,配置方法见代理设置帮助。长期登录商家后台应与公开页面采样分开,后台环境使用独立的静态住宅代理 IP。
所有监控任务都应遵守目标网站公开规则、服务条款和适用法律,只采集有权限访问的数据。代理 IP 不能保证避免验证码、429 或访问限制。
商品价格监控与代理 IP 常见问题
收到 429 后多久恢复?
没有 Retry-After 时,应根据目标网站规则和业务时效设置递增等待上限。内部试运行可暂以等待不超过 30 分钟、同一域名当天恢复测试不超过 3 轮作为示例;任一轮再次出现 429,就停止当天任务。该示例不是通用平台标准,目标网站规则更严格时以其规则为准。
403 和 429 同时出现时先处理哪个?
先停止请求并按 429 的退避规则处理,等待结束后再用 1–2 个公开页面核对权限、Cookie、请求参数和页面变化。不要在等待期间轮换代理 IP 连续试探。
代理 IP 能保证不出现验证码或 429 吗?
不能。验证码和限流还与访问频率、请求行为、Cookie、账号状态及目标网站规则有关。
需要按采样规模选择方案时,可进一步了解动态住宅代理 IP;连续采样任务也可按 30 天动态住宅代理 IP 的周期核算用量。
