Python 快速实现 HTTP 代理 IP 批量获取与有效性校验

简介: 本方案提供Python批量获取与验证HTTP代理IP的精简实现,基于requests库,解决爬虫IP封禁问题。自动适配代理池API,智能筛选可用代理,支持超时控制、异常容错及数量自定义,开箱即用。

Python中批量获取并设置HTTP代理IP,可解决爬虫IP限制问题。以下是精简实用的实现方案,基于requests库,易上手、可直接使用。

2.jpg

前置准备:安装依赖 pip install requests,替换代理池API地址(支持开源或第三方代理服务)。

完整精简代码:

import requests
import random

配置(直接修改适配你的代理池)

PROXY_POOL_URL = "http://localhost:8000/get" # 代理池API
TARGET_COUNT = 10 # 批量获取数量
TIMEOUT = 10 # 超时时间

def get_proxies():
"""获取并筛选可用代理"""
try:
resp = requests.get(PROXY_POOL_URL, timeout=TIMEOUT)
resp.raise_for_status()
proxy_list = resp.json()
if not isinstance(proxy_list, list) or not proxy_list:
print("代理池数据异常")
return []

    # 随机选择指定数量,不足则取全部
    return random.sample(proxy_list, min(TARGET_COUNT, len(proxy_list)))
except Exception as e:
    print(f"获取代理失败:{e}")
    return []

def use_proxies(proxies):
"""测试并使用代理"""
valid = []
for proxy in proxies:
try:
resp = requests.get("http://www.example.com",
proxies={"http": proxy, "https": proxy},
timeout=TIMEOUT, allow_redirects=False)
if 200 <= resp.status_code < 300:
print(f"代理{proxy}可用")
valid.append(proxy)
except:
print(f"代理{proxy}不可用")
return valid

if name == "main":
proxies = get_proxies()
if proxies:
valid_proxies = use_proxies(proxies)
print(f"最终可用代理:{valid_proxies}")
else:
print("无可用代理")

核心说明:代码整合核心功能,自动处理代理数量不足、数据格式异常等问题,筛选可用代理。使用时替换PROXY_POOL_URL即可,若代理需验证,可修改代理格式为http://user:pass@ip:port。

相关文章
|
5月前
|
弹性计算 人工智能 API
零基础保姆级教程:阿里云ECS部署OpenClaw(Clawdbot) + 百炼API配置 + Skills集成全攻略
在AI Agent技术飞速迭代的2026年,OpenClaw(原Clawdbot、Moltbot)凭借开源可控、部署灵活、技能可扩展的核心优势,成为个人办公、轻量团队协作的首选自动化工具。截至2026年3月,其GitHub星标数量已突破18.8万,Fork数超3.3万,Discord社区在线成员超1.2万名,核心贡献者达140余人,成为年度最热门的开源AI Agent项目之一。很多新手对“OpenClaw”与“Clawdbot”的关系存在困惑,实则二者本质完全一致——Clawdbot是OpenClaw的旧称,2026年1月因商标优化正式更名,核心功能、技术架构、部署流程毫无变化,老用户沿用的
780 2
|
8月前
阿里云短信群发平台收费多少钱一条?给大家价格表,可以参考下
阿里云短信群发最低0.02元/条!500条10元,1000条35元,1.5万条507元,50万条19475元。套餐越多单价越低,支持国内通用短信发送,详情见官方页面。
3029 8
|
4月前
|
人工智能 编解码 API
AI视频生成低至0.9元/秒!阿里云HappyHorse开启灰度测试,150亿参数AI视频模型
阿里云HappyHorse(快乐小马)是阿里巴巴ATH创新事业部研发的150亿参数原生多模态AI视频大模型,全球首个实现音画联合生成的单流架构模型,4月登顶Artificial Analysis双榜。支持文/图生视频、1080P输出、7语种口型同步,最低0.44元/秒,已通过百炼平台、官网及千问App开放灰度测试。
|
5月前
|
人工智能 API 数据安全/隐私保护
【最新】阿里云/本地 OpenClaw保姆级部署步骤+百炼API配置:打造从办公自动化到副业变现的AI员工团队!
2026年,AI已从“辅助工具”进化为“数字劳动力”,而OpenClaw(曾用名Clawdbot)凭借“本地优先+开源可定制”的核心优势,成为普通人打造专属数字员工的首选平台。它打破了云端AI的隐私顾虑与功能限制,将自然语言理解、任务执行、多模型协作能力整合于本地设备,既能处理预订车票、安排日程等生活琐事,也能完成办公自动化、内容创作、副业变现等复杂任务,真正实现“一个工具覆盖全场景智能”。
579 2
|
5月前
|
Serverless
阿里云产品二月刊来啦
千问 Qwen3.5-Plus 重磅登场,百炼 Coding Plan 支持多款开闭源模型,桌面 Agent 工具 CoPaw 开源,函数计算 AgentRun 重磅上线知识库功能|产品二月刊
428 6
|
5月前
|
机器学习/深度学习 人工智能 文字识别
小红书开源FireRed-OCR,2B 参数登顶文档解析榜单
小红书FireRed团队开源的FireRed-OCR(仅20亿参数),在OmniDocBench v1.5端到端评测中以92.94%综合得分登顶,超越Gemini 3.0 Pro等大模型。专注解决文档解析中的“结构幻觉”问题,通过三阶段训练+格式约束强化学习,精准还原表格、公式、多栏等复杂结构。Apache 2.0协议,ModelScope开源,支持本地商用部署。(239字)
1212 22
|
XML 数据安全/隐私保护 数据格式
抖音私信卡片一键生成,快手小红书微博xml卡片生成器,发送卡片消息【python】
这个框架提供了完整的社交平台卡片消息生成和发送功能。包含基础类、各平台具体实现
|
XML 数据安全/隐私保护 数据格式
抖音xml卡片生成器,抖音卡片链接生成器制作, 抖音私信卡片一键生成
元素渲染和交互功能。主类DouyinCardGenerator提供了添加卡片、渲染元素、切换卡片和导出图片等功能
|
数据采集 JSON Linux
抖音无限私信协议脚本有?
抖音私信协议技术解析与实现 1. 协议概述与通信机制
|
数据安全/隐私保护 Python
抖音私信脚本app,协议私信群发工具,抖音python私信模块
这个实现包含三个主要模块:抖音私信核心功能类、辅助工具类和主程序入口。核心功能包括登录

热门文章

最新文章