Scrapy 中间件接入代理:自动轮换 + 失败重试完整方案

简介: 本文详解Scrapy代理接入完整方案:通过自定义下载中间件实现IP自动轮换、失效剔除与智能重试(支持403/429及连接异常分别处理),配置即用,无需业务代码干预。强调合规采集,须遵守robots协议与频率限制。

Scrapy 中间件接入代理:自动轮换 + 失败重试完整方案

上一篇讲了 requests 的超时与重试配置,很多同学问:Scrapy 里怎么接?Scrapy 的请求调度和 requests 不一样,proxies 字典那一套直接搬过来是不生效的——正确入口是下载中间件。这篇给一套完整可跑的方案:自动提取 → 随机轮换 → 失效剔除 → 自动重试,一次配好,采集任务跑起来完全不用管IP。前提:仅用于公开数据的合规采集,遵守目标站点 robots 协议与服务条款,控制访问频率。

先理清:Scrapy 里代理要配在哪

Scrapy 处理请求的链路是这样的:

引擎 → 下载中间件链 → 下载器(真正发请求的地方)

proxies 字典是 requests 的参数,Scrapy 里对应的机制是 request.meta["proxy"],而给它统一赋值的地方就是下载中间件(Downloader Middleware)。所以要做三件事:

  1. 在 settings.py 里放配置(账号、并发、重试次数)
  2. 写一个代理中间件:取IP、轮换、失效处理
  3. 在 settings.py 里注册中间件

第 1 步:settings.py 放配置

# 中间件会读这几项,建议用环境变量管理账号,别写死在代码里
PROXY_USERNAME = "你的账号"
PROXY_PASSWORD = "你的密码"
PROXY_TYPE = "http"          # http 或 socks5

# 失败重试
RETRY_ENABLED = True
RETRY_TIMES = 3              # 同一个请求最多重试 3 次,防止无限循环

# 并发和超时(先保守起步,跑稳了再调)
CONCURRENT_REQUESTS = 32
DOWNLOAD_TIMEOUT = 15
RANDOMIZE_DOWNLOAD_DELAY = True   # 随机化下载间隔,让访问节奏更自然

DOWNLOADER_MIDDLEWARES = {
   
    # 数字越小越先执行 process_request;必须排在默认 HttpProxyMiddleware(750) 之前
    "myproject.middlewares.RandomProxyMiddleware": 543,
}

第 2 步:核心——代理中间件

在 middlewares.py 里写完整逻辑。IP 提取走服务商 API(本文以 api.sdbufeng.vip 为例,换成你自己的服务商接口即可,参数含义是通用的):

import random
import requests

API_BASE = "https://api.sdbufeng.vip"


def get_token(username, password):
    """会员账号登录换 API Token(进程启动时换一次,缓存复用)"""
    resp = requests.get(f"{API_BASE}/api/login",
        params={
   "username": username, "password": password}, timeout=10).json()
    if resp.get("status") == 0:
        return resp["data"]["token"]
    raise Exception(f"登录失败: {resp.get('msg')}")


class RandomProxyMiddleware:

    def __init__(self, token, proxy_type="http"):
        self.token = token
        self.proxy_type = proxy_type
        self.pool = []          # 当前可用 IP 池
        self.failed = set()     # 失效IP记录

    # ---- 从 settings 读配置、启动时换 token ----
    @classmethod
    def from_crawler(cls, crawler):
        token = get_token(
            crawler.settings.get("PROXY_USERNAME"),
            crawler.settings.get("PROXY_PASSWORD"),
        )
        return cls(token, crawler.settings.get("PROXY_TYPE", "http"))

    # ---- 批量提取IP ----
    def fetch_proxies(self, amount=20):
        resp = requests.get(f"{API_BASE}/bf/shared/getip", params={
   
            "token": self.token,
            "proxy_type": self.proxy_type,
            "amount": amount,
            "expire": "5-30",             # 有效期档位,按套餐和任务周期对齐
            "format": "txt",              # 每行一个 ip:端口
            "auto_whitelist": "true",     # 自动登记爬虫所在机器的出口IP
        }, timeout=10)
        for line in resp.text.strip().splitlines():
            ip_port = line.strip()
            if ip_port and ip_port not in self.failed and ip_port not in self.pool:
                self.pool.append(ip_port)

    def remove_proxy(self, ip_port):
        """失效IP移出记录和池子"""
        self.failed.add(ip_port)
        if ip_port in self.pool:
            self.pool.remove(ip_port)

    # ---- 每个请求发出前:随机取一个IP挂上去 ----
    def process_request(self, request, spider):
        if not self.pool:
            self.fetch_proxies()
        if not self.pool:
            raise RuntimeError("代理池已用尽,请检查提取频率或IP可用性")

        ip_port = random.choice(self.pool)
        # 白名单鉴权直接拼地址;账号密码鉴权写成 http://账号:密码@ip:端口
        request.meta["proxy"] = f"http://{ip_port}"
        request.meta["proxy_raw"] = ip_port   # 记录原始IP,失败时用来剔除

    # ---- 请求异常(超时/连接失败):剔除失效IP,换IP重试 ----
    def process_exception(self, request, exception, spider):
        ip_port = request.meta.get("proxy_raw")
        if ip_port:
            self.remove_proxy(ip_port)
        return self.retry_with_new_proxy(request)

    # ---- 响应返回后:403/429 说明该出口IP暂时不被目标站点接受 ----
    def process_response(self, request, response, spider):
        if response.status in (403, 429):
            ip_port = request.meta.get("proxy_raw")
            if ip_port:
                self.remove_proxy(ip_port)
            return self.retry_with_new_proxy(request)
        return response

    # ---- 换一个新IP重发同一个请求(带次数上限,防止死循环)----
    def retry_with_new_proxy(self, request):
        retries = request.meta.get("proxy_retry_times", 0) + 1
        if retries > 3:
            return None          # 放弃这个请求,交给 Scrapy 的错误处理

        request.meta["proxy_retry_times"] = retries
        request.meta.pop("proxy", None)       # 清掉旧代理,process_request 会重新分配
        request.dont_filter = True            # 允许重复请求同一URL
        return request

两个设计要点:

  1. 异常和 403/429 分开处理:超时/连接失败大概率是这个IP不可用了,直接移出池子;403/429 说明该出口IP暂时不被站点接受——剔除换IP重试,比反复用同一个IP重试有效得多。
  2. 重试必须带上限:proxy_retry_times 超过 3 次就放弃这个请求,否则目标站点持续不接受访问时,任务会在"换IP重试"里无限空转。

第 3 步:跑起来

scrapy crawl my_spider

跑起来之后你不需要再管任何IP的事:池子空了自动提取,IP不可用自动剔除,请求失败自动换IP重试——业务代码里连一行代理相关的逻辑都没有,parse 里只写解析。

三个调优细节

  1. expire 和任务时长对齐:短效IP一般有 3/5/10/30 分钟多档,跑 2 小时的任务选 30 分钟档,避免任务中途出口频繁变化。
  2. 并发对齐IP数量:CONCURRENT_REQUESTS ≈ 池存量 × 单IP安全QPS(1~2)。池子 20 个IP就别开 200 并发,访问压力太集中对双方都不友好。
  3. 账号密码鉴权的写法:多机部署不想挨个登记白名单的话,把 request.meta["proxy"] 拼成 http://账号:密码@ip:端口 即可,其余逻辑不用动;走 SOCKS5 则先 pip install "requests[socks]",地址用 socks5:// 前缀(要域名解析也在代理端完成、避免本地 DNS 泄露的话用 socks5h://)。

总结

  1. Scrapy 接代理的正确入口是下载中间件,不是 requests 的 proxies 字典
  2. 中间件四件事:启动换 token → 池子空了自动提取 → 每请求随机挂IP → 异常/403 剔除重试
  3. 重试带上限、并发对齐池子、有效期对齐任务,这三条决定采集任务能不能长跑
相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
7196 17
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2384 10
|
8天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
8天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
21天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10319 59
|
4天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1073 1
|
7天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。
|
16天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3527 9