Xpath语法-爬虫(一)

简介: 前言这一章节主要讲解Xpath的基础语法,学习如何通过Xpath获取网页中我们想要的内容;为我们的后面学习Java网络爬虫基础准备工作。备注:此章节为基础核心章节,未来会在网络爬虫的数据解析环节经常使用,学会Xpath解析语法,可为未来爬虫解析省去很多麻烦。

前言
这一章节主要讲解Xpath的基础语法,学习如何通过Xpath获取网页中我们想要的内容;为我们的后面学习Java网络爬虫基础准备工作。
备注:此章节为基础核心章节,未来会在网络爬虫的数据解析环节经常使用,学会Xpath解析语法,可为未来爬虫解析省去很多麻烦。
Xpath简介
       XPath即为XML路径语言,它是一种用来确定XML(标准通用标记语言的子集)文档中某部分位置的语言。XPath基于XML的树状结构,有不同类型的节点,包括元素节点,属性节点和文本节点,提供在数据结构树中找寻节点的能力。起初 XPath 的提出的初衷是将其作为一个通用的、介于XPointer与XSLT间的语法模型。但是 XPath 很快的被开发者采用来当作小型查询语言。

  简单来说我们通过Xpath可以获取XML中的指定元素和指定节点的值。在网络爬虫中我们通过会把爬虫获取的HTML数据转换成XML结构,然后通过XPath解析,获取我们想要的结果。

 

接下来为大家分享以下xpath的表达式以及用法。

一.选取节点

Xpath使用路径表达式在XML文档中选取节点。节点是通过沿着路径来选取的,通过路径可以找到我们想要的节点或者节点范围。

表达式|描述|用法|说明
nodename|选取此节点的所有子节点|xpath(‘span’)|选取span元素的所有子节点
/|从根节点选取|xpath(‘/div’)|从根节点上选取div节点
// 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。   xpath(‘//div’) 从当前节点选取含有div节点的标签
. 选取当前节点 xpath(‘./div’) 选取当前节点下的div标签 
.. 选取当前节点的父节点 xpath(‘../’) 回到上一级节点
 @ 选取属性 xpath(“//div[@id=’1001’]”) 获取div标签中,含有ID属性且值为1001的标签

二.谓语(Predicates)

谓语用来查找某个特定的节点或者包含某个指定的值的节点。 谓语被嵌在方括号中。

表达式描述 | 用法说明
/bookstore/book[1] 选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()] 选取属于 bookstore 子元素的最后一个 book 元素。 
/bookstore/book[last()-1] 选取属于 bookstore 子元素的倒数第二个 book 元素。 
//title[@lang]选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng'] 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[position()35.00] 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 /bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。   

三. 通配符

XPath 通配符可用来选取未知的 XML 元素,通配指定节点。

表达式 描述 用法 说明
*  匹配任何元素节点 xpath(/div/*)            选取div下的所有子节点 
@* 匹配任何属性节点 xpath(/div[@*]) 选取所有带属性的div节点 
node() 匹配任何类型的节点 xpath(//div[@class=’tb_cls’]).node() 选择标签为div且类属性为tb_cls的所有标签     

四.多路径选择

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

用法 说明 
xpath(//book/title |//book/price) 选取 book 元素的所有 title 和 price 元素。   
xpath(//title| //price) 选取文档中的所有 title 和 price 元素   

五.XPath 轴

轴可定义相对于当前节点的节点集。

表达式 描述 用法 说明 
ancestor 选取当前节点的所有先辈(父、祖父等) xpath(//div[@id=’123’]/ancestor::*) 选择标签为div且ID号为123的所有先辈标签 
ancestor-or-self 选取当前节点的所有先辈(父、祖父等)以及当前节点本身 xpath(//div[@id=’123’]/ancestor-or-self::*) 选择标签为div且ID号为123的所有先辈标签且包含自己 
attribute 选取当前节点的所有属性 xpath(//div[@id=’123’]/attribute::class) 选择标签为div且ID号为123的类属性名称 
child 选取当前节点的所有子元素 xpath(//div[@id=’123’]/child::book) 选择标签为div且ID号为123的所有子元素的为book 节点 descendant 选取当前节点的所有后代元素(子、孙等) xpath(./descendant::*) 返回当前节点的所有后代节点(子节点、孙节点)
following 选取文档中当前节点结束标签后的所有节点 xpath(./following::*) 选取文档中当前节点结束标签后的所有节点 parent 选取当前节点的父节点 xpath(./parent::*) 选取当前节点的父节点 
preceding 选取文档中当前节点的开始标签之前的所有节点 xpath(//div[@id=’123’]/preceding::*) 选择标签为div且ID号为123的开始标签之前的所有节点 
preceding-sibling 选取当前节点之前的所有同级节点 xpath(//div[@id=’123’]/preceding-sibling::*) 选择标签为div且ID号为123的之前的所有同级节点 
self 选取当前节点 xpath(./self::*) 选取当前节点     

六.XPath 运算符

表达式 描述 用法 说明 
+ 加法   6 + 4 10 
- 减法 6 - 4 2 
* 乘法 6 * 4 24 
div 除法 8 div 4 2 
= 等于 price=9.80 如果 price 是 9.80,则返回 true。 如果 price 是 9.90,则返回 false。 
!= 不等于 price!=9.80 如果 price 是 9.90,则返回 true。 如果 price 是 9.80,则返回 false。 
< 小于 price<= 小于或等于 price<=9.80 如果 price 是 9.00,则返回 true。 如果 price 是 9.90,则返回 false。 
> 大于 price>9.80 如果 price 是 9.90,则返回 true。 如果 price 是 9.80,则返回 false。 
>= 大于或等于 price>=9.80 如果 price 是 9.90,则返回 true。 如果 price 是 9.70,则返回 false。 
or 或 price=9.80 or price=9.70 如果 price 是 9.80,则返回 true。 如果 price 是 9.50,则返回 false。 
and 与 price>9.00 and price 如果 price 是 9.80,则返回 true。如果 price 是 8.50,则返回 false。
mod 计算除法的余数 5 mod 2 1

七.常用的功能函数

使用功能函数能够更好的进行模糊搜索

表达式 描述 用法 说明
starts-with 选取id值以ma开头的div节点 xpath(‘//div[starts-with(@id,”ma”)]‘) 选取id值以ma开头的div节点
contains 选取id值包含ma的div节点 xpath(‘//div[contains(@id,”ma”)]‘) 选取id值包含ma的div节点
and 选取id值包含ma和in的div节点 xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘) 选取id值包含ma和in的div节点
text() 选取节点文本包含ma的div节点 xpath(‘//div[contains(text(),”ma”)]‘) 选取节点文本包含ma的div节点

转载于网络爬虫基础-Xpath语法(一)

知识在于点滴积累
目录
相关文章
|
3月前
|
数据采集 XML 数据格式
Python爬虫Xpath库详解#4
XPath详解,涉及获取所有节点,子节点,父节点,属性匹配,文本获取,属性获取,按序选择等。【2月更文挑战第13天】
35 0
|
9月前
|
XML 数据采集 Web App开发
XPath数据提取与贴吧爬虫应用示例
XPath(XML Path Language)是一种用于在XML文档中定位和选择节点的语言。它提供了一种简洁的方式来遍历和提取XML文档中的数据。
78 1
|
数据采集 XML 前端开发
Python爬虫:scrapy内置网页解析库parsel-通过css和xpath解析xml、html
Python爬虫:scrapy内置网页解析库parsel-通过css和xpath解析xml、html
151 0
|
数据采集 XML Web App开发
「Python」爬虫-2.xpath解析和cookie,session
> 本文主要介绍爬虫知识中的xpath解析以及如何处理cookies,将配合两个案例-视频爬取和b站弹幕爬取分别讲解。
164 0
|
数据采集 编译器 开发者
爬虫学习:XPath的使用
熟知XPath的使用来进行HTML信息锁定并获取
218 0
爬虫学习:XPath的使用
|
XML 数据采集 Web App开发
自动化测试/爬虫定位真难,那是你还没掌握XPath定位
自动化测试/爬虫定位真难,那是你还没掌握XPath定位
81 0
|
Web App开发 数据采集 开发者
Python爬虫:chrome网页解析工具-XPath Helper
Python爬虫:chrome网页解析工具-XPath Helper
188 0
|
数据采集 XML 前端开发
python爬虫:scrapy框架xpath和css选择器语法
python爬虫:scrapy框架xpath和css选择器语法
186 0
python爬虫:scrapy框架xpath和css选择器语法
|
数据采集 Python
Python爬虫:xpath常用方法示例
Python爬虫:xpath常用方法示例
106 0
|
数据采集 大数据 索引
初识爬虫之Xpath语法篇
初识爬虫之Xpath语法篇
217 0
初识爬虫之Xpath语法篇