背景/引言
在大数据时代，网络爬虫技术已经成为数据收集的重要手段之一。爬虫技术可以自动化地从互联网上收集数据，节省大量人力和时间成本。然而，当使用需要身份验证的代理服务器时，许多现有的爬虫框架并不直接支持代理认证。这就需要我们寻找替代方案，以便在爬虫过程中能够顺利通过代理认证。
本文将介绍如何使用Python中的DrissionPage库，结合Auth代理的Chrome插件，实现从163新闻网站的数据采集。我们将以亿牛云爬虫代理为例，详细演示如何在程序中配置代理，确保爬虫能够高效、安全地运行。通过实例代码，我们将展示完整的实现流程，帮助开发者掌握从目标网站采集数据的实用技巧。
正文
1. 什么是DrissionPage？
DrissionPage是一款基于Python的网页自动化工具，结合了Web浏览器自动化的便利性和requests库的高效性。其设计初衷是提供一种人性化的使用方法，提高开发和运行效率。
2. 代理认证问题
由于许多爬虫框架不支持代理认证，因此我们需要采取其他方案来解决这一问题。常见的解决方案包括：
- 使用本地代理服务器（如Squid）将需要认证的代理转换为不需要密码的代理。
- 安装支持代理认证的Chrome插件（如SwitchyOmega），在插件中配置代理认证信息，然后使用框架接管浏览器。
- 通过代码生成包含代理认证信息的Chrome插件，并启动新的浏览器实例。
本文将重点介绍如何使用第三种方法，通过代码生成Chrome插件来配置代理认证信息。
实例
以下代码展示了如何通过创建Chrome插件来配置代理认证，并使用DrissionPage进行网页自动化操作，采集163新闻网站的数据。此方法可以在任何支持Chrome扩展的环境中使用。
import string
import os
from DrissionPage import ChromiumOptions, ChromiumPage
# 代理服务器信息（以亿牛云爬虫代理为例）
proxyHost = "www.Host.cn"
proxyPort = "3111"
# 代理认证信息
proxyUser = "username"
proxyPass = "password"
def create_proxy_auth_extension(proxy_host, proxy_port, proxy_username, proxy_password, scheme='http', plugin_path=None):
# 创建Chrome插件的manifest.json文件内容
manifest_json = """
{
"version": "1.0.0",
"manifest_version": 2,
"name": "16YUN Proxy",
"permissions": [
"proxy",
"tabs",
"unlimitedStorage",
"storage",
"<all_urls>",
"webRequest",
"webRequestBlocking"
],
"background": {
"scripts": ["background.js"]
},
"minimum_chrome_version":"22.0.0"
}
"""
# 创建Chrome插件的background.js文件内容
background_js = string.Template(
"""
var config = {
mode: "fixed_servers",
rules: {
singleProxy: {
scheme: "${scheme}",
host: "${host}",
port: parseInt(${port})
},
bypassList: ["localhost"]
}
};
chrome.proxy.settings.set({value: config, scope: "regular"}, function() {});
function callbackFn(details) {
return {
authCredentials: {
username: "${username}",
password: "${password}"
}
};
}
chrome.webRequest.onAuthRequired.addListener(
callbackFn,
{urls: ["<all_urls>"]},
['blocking']
);
"""
).substitute(
host=proxy_host,
port=proxy_port,
username=proxy_username,
password=proxy_password,
scheme=scheme,
)
# 创建插件目录并写入manifest.json和background.js文件
os.makedirs(plugin_path, exist_ok=True)
with open(os.path.join(plugin_path, "manifest.json"), "w+") as f:
f.write(manifest_json)
with open(os.path.join(plugin_path, "background.js"), "w+") as f:
f.write(background_js)
return os.path.join(plugin_path)
# 指定插件路径
proxy_auth_plugin_path = create_proxy_auth_extension(
plugin_path="/tmp/111",
proxy_host=proxyHost,
proxy_port=proxyPort,
proxy_username=proxyUser,
proxy_password=proxyPass
)
# 使用DrissionPage进行网页自动化，并加载代理认证插件
co = ChromiumOptions().add_extension(path=proxy_auth_plugin_path)
page = ChromiumPage(co)
page.get('https://news.163.com/')
# 打印页面标题
print(page.title)
结论
通过上述方法，我们可以有效地解决代理认证问题，并使用DrissionPage实现高效的网页自动化操作。无论是处理需要登录的网站还是复杂的JavaScript交互，DrissionPage都提供了一种简洁且高效的解决方案。结合代理认证插件的使用，可以进一步提高爬虫的隐私性和稳定性。这种方法不仅适用于163新闻网站的数据采集，还可以广泛应用于其他需要代理认证的网页数据采集任务。
