Scrapy 中间件接入代理:自动轮换 + 失败重试完整方案
上一篇讲了 requests 的超时与重试配置,很多同学问:Scrapy 里怎么接?Scrapy 的请求调度和 requests 不一样,
proxies字典那一套直接搬过来是不生效的——正确入口是下载中间件。这篇给一套完整可跑的方案:自动提取 → 随机轮换 → 失效剔除 → 自动重试,一次配好,采集任务跑起来完全不用管IP。前提:仅用于公开数据的合规采集,遵守目标站点 robots 协议与服务条款,控制访问频率。
先理清:Scrapy 里代理要配在哪
Scrapy 处理请求的链路是这样的:
引擎 → 下载中间件链 → 下载器(真正发请求的地方)
proxies 字典是 requests 的参数,Scrapy 里对应的机制是 request.meta["proxy"],而给它统一赋值的地方就是下载中间件(Downloader Middleware)。所以要做三件事:
- 在
settings.py里放配置(账号、并发、重试次数) - 写一个代理中间件:取IP、轮换、失效处理
- 在
settings.py里注册中间件
第 1 步:settings.py 放配置
# 中间件会读这几项,建议用环境变量管理账号,别写死在代码里
PROXY_USERNAME = "你的账号"
PROXY_PASSWORD = "你的密码"
PROXY_TYPE = "http" # http 或 socks5
# 失败重试
RETRY_ENABLED = True
RETRY_TIMES = 3 # 同一个请求最多重试 3 次,防止无限循环
# 并发和超时(先保守起步,跑稳了再调)
CONCURRENT_REQUESTS = 32
DOWNLOAD_TIMEOUT = 15
RANDOMIZE_DOWNLOAD_DELAY = True # 随机化下载间隔,让访问节奏更自然
DOWNLOADER_MIDDLEWARES = {
# 数字越小越先执行 process_request;必须排在默认 HttpProxyMiddleware(750) 之前
"myproject.middlewares.RandomProxyMiddleware": 543,
}
第 2 步:核心——代理中间件
在 middlewares.py 里写完整逻辑。IP 提取走服务商 API(本文以 api.sdbufeng.vip 为例,换成你自己的服务商接口即可,参数含义是通用的):
import random
import requests
API_BASE = "https://api.sdbufeng.vip"
def get_token(username, password):
"""会员账号登录换 API Token(进程启动时换一次,缓存复用)"""
resp = requests.get(f"{API_BASE}/api/login",
params={
"username": username, "password": password}, timeout=10).json()
if resp.get("status") == 0:
return resp["data"]["token"]
raise Exception(f"登录失败: {resp.get('msg')}")
class RandomProxyMiddleware:
def __init__(self, token, proxy_type="http"):
self.token = token
self.proxy_type = proxy_type
self.pool = [] # 当前可用 IP 池
self.failed = set() # 失效IP记录
# ---- 从 settings 读配置、启动时换 token ----
@classmethod
def from_crawler(cls, crawler):
token = get_token(
crawler.settings.get("PROXY_USERNAME"),
crawler.settings.get("PROXY_PASSWORD"),
)
return cls(token, crawler.settings.get("PROXY_TYPE", "http"))
# ---- 批量提取IP ----
def fetch_proxies(self, amount=20):
resp = requests.get(f"{API_BASE}/bf/shared/getip", params={
"token": self.token,
"proxy_type": self.proxy_type,
"amount": amount,
"expire": "5-30", # 有效期档位,按套餐和任务周期对齐
"format": "txt", # 每行一个 ip:端口
"auto_whitelist": "true", # 自动登记爬虫所在机器的出口IP
}, timeout=10)
for line in resp.text.strip().splitlines():
ip_port = line.strip()
if ip_port and ip_port not in self.failed and ip_port not in self.pool:
self.pool.append(ip_port)
def remove_proxy(self, ip_port):
"""失效IP移出记录和池子"""
self.failed.add(ip_port)
if ip_port in self.pool:
self.pool.remove(ip_port)
# ---- 每个请求发出前:随机取一个IP挂上去 ----
def process_request(self, request, spider):
if not self.pool:
self.fetch_proxies()
if not self.pool:
raise RuntimeError("代理池已用尽,请检查提取频率或IP可用性")
ip_port = random.choice(self.pool)
# 白名单鉴权直接拼地址;账号密码鉴权写成 http://账号:密码@ip:端口
request.meta["proxy"] = f"http://{ip_port}"
request.meta["proxy_raw"] = ip_port # 记录原始IP,失败时用来剔除
# ---- 请求异常(超时/连接失败):剔除失效IP,换IP重试 ----
def process_exception(self, request, exception, spider):
ip_port = request.meta.get("proxy_raw")
if ip_port:
self.remove_proxy(ip_port)
return self.retry_with_new_proxy(request)
# ---- 响应返回后:403/429 说明该出口IP暂时不被目标站点接受 ----
def process_response(self, request, response, spider):
if response.status in (403, 429):
ip_port = request.meta.get("proxy_raw")
if ip_port:
self.remove_proxy(ip_port)
return self.retry_with_new_proxy(request)
return response
# ---- 换一个新IP重发同一个请求(带次数上限,防止死循环)----
def retry_with_new_proxy(self, request):
retries = request.meta.get("proxy_retry_times", 0) + 1
if retries > 3:
return None # 放弃这个请求,交给 Scrapy 的错误处理
request.meta["proxy_retry_times"] = retries
request.meta.pop("proxy", None) # 清掉旧代理,process_request 会重新分配
request.dont_filter = True # 允许重复请求同一URL
return request
两个设计要点:
- 异常和 403/429 分开处理:超时/连接失败大概率是这个IP不可用了,直接移出池子;403/429 说明该出口IP暂时不被站点接受——剔除换IP重试,比反复用同一个IP重试有效得多。
- 重试必须带上限:
proxy_retry_times超过 3 次就放弃这个请求,否则目标站点持续不接受访问时,任务会在"换IP重试"里无限空转。
第 3 步:跑起来
scrapy crawl my_spider
跑起来之后你不需要再管任何IP的事:池子空了自动提取,IP不可用自动剔除,请求失败自动换IP重试——业务代码里连一行代理相关的逻辑都没有,parse 里只写解析。
三个调优细节
expire和任务时长对齐:短效IP一般有 3/5/10/30 分钟多档,跑 2 小时的任务选 30 分钟档,避免任务中途出口频繁变化。- 并发对齐IP数量:
CONCURRENT_REQUESTS ≈ 池存量 × 单IP安全QPS(1~2)。池子 20 个IP就别开 200 并发,访问压力太集中对双方都不友好。 - 账号密码鉴权的写法:多机部署不想挨个登记白名单的话,把
request.meta["proxy"]拼成http://账号:密码@ip:端口即可,其余逻辑不用动;走 SOCKS5 则先pip install "requests[socks]",地址用socks5://前缀(要域名解析也在代理端完成、避免本地 DNS 泄露的话用socks5h://)。
总结
- Scrapy 接代理的正确入口是下载中间件,不是 requests 的 proxies 字典
- 中间件四件事:启动换 token → 池子空了自动提取 → 每请求随机挂IP → 异常/403 剔除重试
- 重试带上限、并发对齐池子、有效期对齐任务,这三条决定采集任务能不能长跑