Python 快速实现 HTTP 代理 IP 批量获取与有效性校验

简介: 本方案提供Python批量获取与验证HTTP代理IP的精简实现,基于requests库,解决爬虫IP封禁问题。自动适配代理池API,智能筛选可用代理,支持超时控制、异常容错及数量自定义,开箱即用。

Python中批量获取并设置HTTP代理IP,可解决爬虫IP限制问题。以下是精简实用的实现方案,基于requests库,易上手、可直接使用。

2.jpg

前置准备:安装依赖 pip install requests,替换代理池API地址(支持开源或第三方代理服务)。

完整精简代码:

import requests
import random

配置(直接修改适配你的代理池)

PROXY_POOL_URL = "http://localhost:8000/get" # 代理池API
TARGET_COUNT = 10 # 批量获取数量
TIMEOUT = 10 # 超时时间

def get_proxies():
"""获取并筛选可用代理"""
try:
resp = requests.get(PROXY_POOL_URL, timeout=TIMEOUT)
resp.raise_for_status()
proxy_list = resp.json()
if not isinstance(proxy_list, list) or not proxy_list:
print("代理池数据异常")
return []

    # 随机选择指定数量,不足则取全部
    return random.sample(proxy_list, min(TARGET_COUNT, len(proxy_list)))
except Exception as e:
    print(f"获取代理失败:{e}")
    return []

def use_proxies(proxies):
"""测试并使用代理"""
valid = []
for proxy in proxies:
try:
resp = requests.get("http://www.example.com",
proxies={"http": proxy, "https": proxy},
timeout=TIMEOUT, allow_redirects=False)
if 200 <= resp.status_code < 300:
print(f"代理{proxy}可用")
valid.append(proxy)
except:
print(f"代理{proxy}不可用")
return valid

if name == "main":
proxies = get_proxies()
if proxies:
valid_proxies = use_proxies(proxies)
print(f"最终可用代理:{valid_proxies}")
else:
print("无可用代理")

核心说明:代码整合核心功能,自动处理代理数量不足、数据格式异常等问题,筛选可用代理。使用时替换PROXY_POOL_URL即可,若代理需验证,可修改代理格式为http://user:pass@ip:port。

相关文章
|
1月前
|
弹性计算 人工智能 API
零基础保姆级教程:阿里云ECS部署OpenClaw(Clawdbot) + 百炼API配置 + Skills集成全攻略
在AI Agent技术飞速迭代的2026年,OpenClaw(原Clawdbot、Moltbot)凭借开源可控、部署灵活、技能可扩展的核心优势,成为个人办公、轻量团队协作的首选自动化工具。截至2026年3月,其GitHub星标数量已突破18.8万,Fork数超3.3万,Discord社区在线成员超1.2万名,核心贡献者达140余人,成为年度最热门的开源AI Agent项目之一。很多新手对“OpenClaw”与“Clawdbot”的关系存在困惑,实则二者本质完全一致——Clawdbot是OpenClaw的旧称,2026年1月因商标优化正式更名,核心功能、技术架构、部署流程毫无变化,老用户沿用的
470 2
|
4月前
阿里云短信群发平台收费多少钱一条?给大家价格表,可以参考下
阿里云短信群发最低0.02元/条!500条10元,1000条35元,1.5万条507元,50万条19475元。套餐越多单价越低,支持国内通用短信发送,详情见官方页面。
2111 8
|
1月前
|
人工智能 API 数据安全/隐私保护
【最新】阿里云/本地 OpenClaw保姆级部署步骤+百炼API配置:打造从办公自动化到副业变现的AI员工团队!
2026年,AI已从“辅助工具”进化为“数字劳动力”,而OpenClaw(曾用名Clawdbot)凭借“本地优先+开源可定制”的核心优势,成为普通人打造专属数字员工的首选平台。它打破了云端AI的隐私顾虑与功能限制,将自然语言理解、任务执行、多模型协作能力整合于本地设备,既能处理预订车票、安排日程等生活琐事,也能完成办公自动化、内容创作、副业变现等复杂任务,真正实现“一个工具覆盖全场景智能”。
348 2
|
14天前
|
人工智能 弹性计算 自然语言处理
阿里云轻量应用服务器部署OpenClaw,以及OpenClaw Web页面集成图文教程
本文介绍了在购买阿里云轻量应用服务器部署OpenClaw应用镜像的步骤、费用说明及配置流程,以及OpenClaw Web页面集成教程,包括如何配置OpenClaw、创建AI助手、实现Web页面集成等。此外,还解答了如何重启OpenClaw网关、查看端口号、更改调用模型等常见问题。通过本文,用户可快速掌握OpenClaw从本地部署到Web集成的完整路径。
|
1月前
|
Serverless
阿里云产品二月刊来啦
千问 Qwen3.5-Plus 重磅登场,百炼 Coding Plan 支持多款开闭源模型,桌面 Agent 工具 CoPaw 开源,函数计算 AgentRun 重磅上线知识库功能|产品二月刊
343 6
|
1月前
|
机器学习/深度学习 人工智能 文字识别
小红书开源FireRed-OCR,2B 参数登顶文档解析榜单
小红书FireRed团队开源的FireRed-OCR(仅20亿参数),在OmniDocBench v1.5端到端评测中以92.94%综合得分登顶,超越Gemini 3.0 Pro等大模型。专注解决文档解析中的“结构幻觉”问题,通过三阶段训练+格式约束强化学习,精准还原表格、公式、多栏等复杂结构。Apache 2.0协议,ModelScope开源,支持本地商用部署。(239字)
789 22
|
13天前
|
人工智能 Ubuntu JavaScript
OpenClaw怎么部署?阿里云+本地部署OpenClaw流程+千问/Coding Plan对接+避坑手册
搭配阿里云千问Qwen3.6-Plus的强逻辑推理与长文本处理能力,或Coding Plan的免费API套餐,零基础用户也能快速拥有专属AI代理,实现从“对话”到“执行”的效率跃迁。本文完整覆盖**2026年阿里云轻量服务器部署及本地MacOS/Linux/Windows11部署OpenClaw(Clawdbot)步骤流程及阿里云千问Qwen3.6-Plus配置或市场上免费大模型Coding Plan API配置及常见问题解答**,从部署前预检到服务优化,从核心配置到问题排查,全程实战化、可复制、零冗余。
247 0
|
9月前
|
XML 数据安全/隐私保护 数据格式
抖音私信卡片一键生成,快手小红书微博xml卡片生成器,发送卡片消息【python】
这个框架提供了完整的社交平台卡片消息生成和发送功能。包含基础类、各平台具体实现
|
9月前
|
XML 数据安全/隐私保护 数据格式
抖音xml卡片生成器,抖音卡片链接生成器制作, 抖音私信卡片一键生成
元素渲染和交互功能。主类DouyinCardGenerator提供了添加卡片、渲染元素、切换卡片和导出图片等功能
|
JSON 小程序 前端开发
创建一个属于自己的小程序(注册开发账号)
介绍如何创建微信小程序账号,包括注册流程、下载安装微信开发者工具、创建项目以及项目结构介绍。
创建一个属于自己的小程序(注册开发账号)