Python中与selenium齐名的pyppeteer库

简介: 如果说在Python中还有一款自动化工具能和selenium媲美,那么无疑是pyppeteer,pyppeteer是puppeteer的Python版本,puppeteer是Google开源的一个js库,通过一系列高级接口和Chrome或Chromium在DevTools协议下交互,其实现功能如下:生成页面的截图和PDF。

如果说在Python中还有一款自动化工具能和selenium媲美,那么无疑是pyppeteer,pyppeteer是puppeteer的Python版本,puppeteer是Google开源的一个js库,通过一系列高级接口和Chrome或Chromium在DevTools协议下交互,其实现功能如下:

  • 生成页面的截图和PDF。
  • 抓取SPA(单页应用程序)并渲染页面
  • 自动提交表单,UI测试,键盘输入等。
  • 创建一个最新的自动化测试环境,使用最新的JavaScript和浏览器特性,在最新版本的Chrome中直接运行测试。
  • 捕捉异常跟踪堆栈来帮助诊断性能问题。
  • 测试Chrome扩展
  • 当然还有些高级功能如js注入、模拟操作、异步执行、伪装
image

pyperteer是puppeteer的Python实现,相比于selenium具有异步加载、速度快、具备有界面/无界面模式、伪装性更强不易被识别为机器人同时可以伪装手机平板等终端;但是也有一些缺点,如接口不易理解、语义晦涩;

但在selenium被广泛和谐的今天,pyppeteer无疑为防爬墙撕开了一道大口子,针对selenium的淘宝、美团、文书网等网站,目前可通过该库使用selenium的思路继续突破,毫不费劲,以前不能用selenium的现在可以使用pyppeteer轻易拿下,后面将针对pyppeteer进行系列教程的分享,关注公众号【Python之战】不迷路。

pyppeteer基础使用:

使用pyppeteer先看看异步库asyncio,因为asycio也是pyppeteer框架的一部分,不熟悉的看这篇《学Python不得不掌握的库,gevent和asyncio使用方法详解

先看官方提供的一个案例:

import asyncio
from pyppeteer import launch

async def main():
    browser = await launch()
    page = await browser.newPage()
    await page.goto('http://example.com')
    await page.screenshot({'path': 'example.png'})
    await browser.close()

asyncio.get_event_loop().run_until_complete(main())

其中async关键字声明一个异步操作,await关键字声明一个耗时操作,asyncio.get_event_loop().run_until_complete(main())是创建异步池并执行异步模块main函数。

browser = await launch()

创建一个浏览器对象类似selenium中的driver,launch()中可传入带关键字的字典配置参数

page = await browser.newPage()

新建一个页面对象,页面操作在页面对象上

await page.goto('http://example.com')

执行跳转功能等同于driver.get()

await page.screenshot({'path': 'example.png'})

页面截图

await browser.close()

关闭浏览器对象

关于launch()中的配置参数:

在运行launch()时没有下载Chromium会自动下载。

[W:pyppeteer.chromium_downloader] start chromium download.
Download may take a few minutes.

  4%|▍         | 5365760/127496521 [00:15<08:18, 244829.50it/s]

其中browser = await launch(),中options是字典,配置如:browser = await launch({‘headless’:True})是配置无头模式,其余常用配置字段如下:

async def launch(options: dict = None, **kwargs: Any) -> Browser:
*`` ignorehttpserrrors``(bool):是否忽略HTTPS错误。默认为‘假’。

*`` headless``(bool):是否在headless模式下运行浏览器。默认为

`` true``除非``appmode````devtools``选项为``true``。

*``可执行路径``(str):要运行的chromium或chrome可执行文件的路径

而不是默认的铬束。

*`` slowmo``(int float):通过指定的毫秒数。

*`` args``(list[str]):要传递给浏览器的附加参数(标志)过程。

*`` ignoredefaultargs``(bool):不要使用Pypeter的默认参数。这个是危险的选择;小心使用。

*`` handlesigint``(bool):在ctrl+c上关闭浏览器进程。默认为‘真’。

*`` handlesigterm``(bool):关闭sigterm上的浏览器进程。默认值“真”。

*`` handlesighup``(bool):关闭浏览器进程。默认为‘真’。

*`` dumpio``(bool):是否通过管道传输浏览器进程stdout和stderr到``process.stdout````process.stderr```。默认为“假”。

*`` userdatadir``(str):用户数据目录的路径。

*`` env``(dict):指定将对浏览器。默认为与python进程相同。

*`` devtools``(bool):是否为每个选项卡自动打开devtools面板。如果此选项为“真”,将设置“无头”选项‘假’。

*`` log level``(int str):打印日志的日志级别。默认与根记录器。

*`` autoclose``(bool):脚本时自动关闭浏览器进程完整的。默认为“真”。

*``循环`(asyncio.abstractEventLoop):事件循环(**experimental**)。

*`` appmode``(bool):已弃用。

Page页面对象元素主要选择器如下

    async def querySelector(self, selector: str) -> Optional[ElementHandle]:
        """Get an Element which matches ``selector``.

    async def queryObjects(self, prototypeHandle: JSHandle) -> JSHandle:
        """Iterate js heap and finds all the objects with the handle.

    async def querySelectorEval(self, selector: str, pageFunction: str,
                                *args: Any) -> Any:
        """Execute function with an element which matches ``selector``.

    async def querySelectorAllEval(self, selector: str, pageFunction: str,
                                   *args: Any) -> Any:
        """Execute function with all elements which matches ``selector``.

    async def querySelectorAll(self, selector: str) -> List[ElementHandle]:
        """Get all element which matches ``selector`` as a list.

    async def xpath(self, expression: str) -> List[ElementHandle]:
        """Evaluate the XPath expression.

        If there are no such elements in this page, return an empty list.

主要是XPath、querySelector、querySelectorAll三个。

后面将持续对pyppeteer库进行系统性的分享,喜欢的欢迎关注不迷路。

相关文章
|
17天前
|
调度 开发者 Python
Python中的异步编程:理解asyncio库
在Python的世界里,异步编程是一种高效处理I/O密集型任务的方法。本文将深入探讨Python的asyncio库,它是实现异步编程的核心。我们将从asyncio的基本概念出发,逐步解析事件循环、协程、任务和期货的概念,并通过实例展示如何使用asyncio来编写异步代码。不同于传统的同步编程,异步编程能够让程序在等待I/O操作完成时释放资源去处理其他任务,从而提高程序的整体效率和响应速度。
|
20天前
|
数据采集 存储 数据挖掘
Python数据分析:Pandas库的高效数据处理技巧
【10月更文挑战第27天】在数据分析领域,Python的Pandas库因其强大的数据处理能力而备受青睐。本文介绍了Pandas在数据导入、清洗、转换、聚合、时间序列分析和数据合并等方面的高效技巧,帮助数据分析师快速处理复杂数据集,提高工作效率。
51 0
|
6天前
|
XML 存储 数据库
Python中的xmltodict库
xmltodict是Python中用于处理XML数据的强大库,可将XML数据与Python字典相互转换,适用于Web服务、配置文件读取及数据转换等场景。通过`parse`和`unparse`函数,轻松实现XML与字典间的转换,支持复杂结构和属性处理,并能有效管理错误。此外,还提供了实战案例,展示如何从XML配置文件中读取数据库连接信息并使用。
Python中的xmltodict库
|
13天前
|
数据库 Python
异步编程不再难!Python asyncio库实战,让你的代码流畅如丝!
在编程中,随着应用复杂度的提升,对并发和异步处理的需求日益增长。Python的asyncio库通过async和await关键字,简化了异步编程,使其变得流畅高效。本文将通过实战示例,介绍异步编程的基本概念、如何使用asyncio编写异步代码以及处理多个异步任务的方法,帮助你掌握异步编程技巧,提高代码性能。
49 4
|
13天前
|
API 数据处理 Python
探秘Python并发新世界:asyncio库,让你的代码并发更优雅!
在Python编程中,随着网络应用和数据处理需求的增长,并发编程变得愈发重要。asyncio库作为Python 3.4及以上版本的标准库,以其简洁的API和强大的异步编程能力,成为提升性能和优化资源利用的关键工具。本文介绍了asyncio的基本概念、异步函数的定义与使用、并发控制和资源管理等核心功能,通过具体示例展示了如何高效地编写并发代码。
25 2
|
1月前
|
网络协议 数据库连接 Python
python知识点100篇系列(17)-替换requests的python库httpx
【10月更文挑战第4天】Requests 是基于 Python 开发的 HTTP 库,使用简单,功能强大。然而,随着 Python 3.6 的发布,出现了 Requests 的替代品 —— httpx。httpx 继承了 Requests 的所有特性,并增加了对异步请求的支持,支持 HTTP/1.1 和 HTTP/2,能够发送同步和异步请求,适用于 WSGI 和 ASGI 应用。安装使用 httpx 需要 Python 3.6 及以上版本,异步请求则需要 Python 3.8 及以上。httpx 提供了 Client 和 AsyncClient,分别用于优化同步和异步请求的性能。
python知识点100篇系列(17)-替换requests的python库httpx
|
19天前
|
数据采集 JSON 测试技术
Python爬虫神器requests库的使用
在现代编程中,网络请求是必不可少的部分。本文详细介绍 Python 的 requests 库,一个功能强大且易用的 HTTP 请求库。内容涵盖安装、基本功能(如发送 GET 和 POST 请求、设置请求头、处理响应)、高级功能(如会话管理和文件上传)以及实际应用场景。通过本文,你将全面掌握 requests 库的使用方法。🚀🌟
38 7
|
21天前
|
数据采集 Web App开发 前端开发
Python爬虫进阶:Selenium在动态网页抓取中的实战
【10月更文挑战第26天】动态网页抓取是网络爬虫的难点,因为数据通常通过JavaScript异步加载。Selenium通过模拟浏览器行为,可以加载和执行JavaScript,从而获取动态网页的完整内容。本文通过实战案例,介绍如何使用Selenium在Python中抓取动态网页。首先安装Selenium库和浏览器驱动,然后通过示例代码展示如何抓取英国国家美术馆的图片信息。
44 6
|
19天前
|
机器学习/深度学习 数据采集 算法
Python机器学习:Scikit-learn库的高效使用技巧
【10月更文挑战第28天】Scikit-learn 是 Python 中最受欢迎的机器学习库之一,以其简洁的 API、丰富的算法和良好的文档支持而受到开发者喜爱。本文介绍了 Scikit-learn 的高效使用技巧,包括数据预处理(如使用 Pipeline 和 ColumnTransformer)、模型选择与评估(如交叉验证和 GridSearchCV)以及模型持久化(如使用 joblib)。通过这些技巧,你可以在机器学习项目中事半功倍。
24 3
|
22天前
|
数据采集 数据可视化 数据处理
如何使用Python实现一个交易策略。主要步骤包括:导入所需库(如`pandas`、`numpy`、`matplotlib`)
本文介绍了如何使用Python实现一个交易策略。主要步骤包括:导入所需库(如`pandas`、`numpy`、`matplotlib`),加载历史数据,计算均线和其他技术指标,实现交易逻辑,记录和可视化交易结果。示例代码展示了如何根据均线交叉和价格条件进行开仓、止损和止盈操作。实际应用时需注意数据质量、交易成本和风险管理。
47 5
下一篇
无影云桌面