python爬虫:scrapy框架xpath和css选择器语法

简介: python爬虫:scrapy框架xpath和css选择器语法

Xpath基本语法

一、常用的路径表达式:'

表达式

描述

实例

nodename

选取nodename节点的所有子节点

//div

/

从根节点选取

/div

//

选取所有的节点,不考虑他们的位置

//div

.

选取当前节点

./div

..

选取当前节点的父节点

..

@

选取属性

//@calss


举例元素标签为artical标签

语法

说明

artical

选取所有artical元素的子节点

/artical

选取根元素artical

./artical

选取当前元素下的artical

../artical

选取父元素下的artical

artical/a

选取所有属于artical的子元素a元素

//div

选取所有div 子元素,无论div在任何地方

artical//div

选取所有属于artical的div 元素,无论div元素在artical的任何位置

//@class

选取所有名为class 的属性的

a/@href

选取a标签的href属性

a/text()

选取a标签下的文本

string(.)

解析出当前节点下所有文字

string(..)

解析出父节点下所有文字

二、谓语

谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点

语法

说明

/artical/div[1]

选取所有属于artical 子元素的第一个div元素

/artical/div[last()]

选取所有属于artical子元素的最后一个div元素

/artical/div[last()-1]

选取所有属于artical子元素的倒数第2个div元素

/artical/div[position()<3]

选取所有属于artical子元素的前2个div元素

//div[@class]

选取所有拥有属性为class的div节点

//div[@class=”main”]

选取所有div下class属性为main的div节点

//div[price>3.5]

选取所有div下元素值price大于3.5的节点

三、通配符

Xpath通过通配符来选取未知的XML元素

表达式

结果

//*

选取所有元素

//div/*

选取所有属于div元素的所有子节点

//div[@*]

选取所有带属性的元素

四、取多个路径

使用“|”运算符可以选取多个路径

表达式

结果

//div | //table

选取文档中所有的div和table节点

//div/a | //div/p

选取所有div元素的a和p 元素

artical/div/pl | //span

选取所有div下的pl和文档中所有span


五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称

表达式

描述

ancestor

./ancestor::*

选取当前节点的所有先辈节点(父、祖父)

ancestor-or-self

./ancestor-or-self::*

选取当前节点的所有先辈节点以及节点本身

descendant

./descendant::*

返回当前节点的所有后代节点(子节点、孙节点)

child

./child::*

返回当前节点的所有子节点

parent

./parent::*

选取当前节点的父节点

following

./following::*

选取文档中当前节点结束标签后的所有节点

following-sibling

./following-sibling::*

选取当前节点之后的兄弟节点

preceding

./preceding::*

选取文档中当前节点开始标签前的所有节点

preceding-sibling

./preceding-sibling::*

选取当前节点之前的兄弟节点

self

./self::*

选取当前节点

attribute

./attribute::*

选取当前节点的所有属性

六、功能函数

使用功能函数能够更好的进行模糊搜索

函数

用法

解释

starts-with

//div[starts-with(@id,”ma”)]

选取id值以ma开头的div节点

contains

//div[contains(@id,”ma”)]

选取所有id值包含ma的div节点

and

//div[contains(@id,”ma”) and contains(@id,”in”)]

选取id值包含ma和in的div节点

text()

//div[contains(text(),”ma”)]

选取节点文本包含ma的div节点


注意事项:

1) 按照审查元素的写法不一定正确,要按照网页源码的才行
因为不一样,网页源码才是你看到的
2) 浏览器有自带的复制xpath功能,firefox下载firebug插件
3) xpath有c的速度,所以按照[@class=""]准确性较高

CCS选择器语法

语法

说明

*

选择所有节点

#container

选择id为container的节点

.container

选择所有class包含container的节点

div,p

选择所有 div 元素和所有 p 元素

li a

选取所有li 下所有a节点

ul + p

选取ul后面的第一个p元素

div#container > ul

选取id为container的div的第一个ul子元素

ul ~p

选取与ul相邻的所有p元素

a[title]

选取所有有title属性的a元素

a[href=”http://baidu.com”]

选取所有href属性为http://baidu.com的a元素

a[href*=”baidu”]

选取所有href属性值中包含baidu的a元素

a[href^=”http”]

选取所有href属性值中以http开头的a元素

a[href$=”.jpg”]

选取所有href属性值中以.jpg结尾的a元素

input[type=radio]:checked

选择选中的radio的元素

div:not(#container)

选取所有id为非container 的div属性

li:nth-child(3)

选取第三个li元素

li:nth-child(2n)

选取第偶数个li元素

a::attr(href)

选取a标签的href属性

a::text

选取a标签下的文本

关于更多css语法,可以查看

http://www.w3school.com.cn/cssref/css_selectors.asp

提取内容

方法

返回

Selector.xpath()

返回SelectorList对象

Selector.css()

返回SelectorList对象

SelectorList.extract()

返回List对象

SelectorList.extract_first(default)

返回String对象,可以有默认值,类似dict.get(key, default)

参考链接:

  1. 三、用Css来提取网页
  2. Python爬虫:Xpath语法笔记
相关文章
|
2月前
|
存储 Java 数据处理
(numpy)Python做数据处理必备框架!(一):认识numpy;从概念层面开始学习ndarray数组:形状、数组转置、数值范围、矩阵...
Numpy是什么? numpy是Python中科学计算的基础包。 它是一个Python库,提供多维数组对象、各种派生对象(例如掩码数组和矩阵)以及用于对数组进行快速操作的各种方法,包括数学、逻辑、形状操作、排序、选择、I/0 、离散傅里叶变换、基本线性代数、基本统计运算、随机模拟等等。 Numpy能做什么? numpy的部分功能如下: ndarray,一个具有矢量算术运算和复杂广播能力的快速且节省空间的多维数组 用于对整组数据进行快速运算的标准数学函数(无需编写循环)。 用于读写磁盘数据的工具以及用于操作内存映射文件的工具。 线性代数、随机数生成以及傅里叶变换功能。 用于集成由C、C++
310 1
|
2月前
|
Java 数据处理 索引
(Pandas)Python做数据处理必选框架之一!(二):附带案例分析;刨析DataFrame结构和其属性;学会访问具体元素;判断元素是否存在;元素求和、求标准值、方差、去重、删除、排序...
DataFrame结构 每一列都属于Series类型,不同列之间数据类型可以不一样,但同一列的值类型必须一致。 DataFrame拥有一个总的 idx记录列,该列记录了每一行的索引 在DataFrame中,若列之间的元素个数不匹配,且使用Series填充时,在DataFrame里空值会显示为NaN;当列之间元素个数不匹配,并且不使用Series填充,会报错。在指定了index 属性显示情况下,会按照index的位置进行排序,默认是 [0,1,2,3,...] 从0索引开始正序排序行。
244 0
|
2月前
|
Java 数据挖掘 数据处理
(Pandas)Python做数据处理必选框架之一!(一):介绍Pandas中的两个数据结构;刨析Series:如何访问数据;数据去重、取众数、总和、标准差、方差、平均值等;判断缺失值、获取索引...
Pandas 是一个开源的数据分析和数据处理库,它是基于 Python 编程语言的。 Pandas 提供了易于使用的数据结构和数据分析工具,特别适用于处理结构化数据,如表格型数据(类似于Excel表格)。 Pandas 是数据科学和分析领域中常用的工具之一,它使得用户能够轻松地从各种数据源中导入数据,并对数据进行高效的操作和分析。 Pandas 主要引入了两种新的数据结构:Series 和 DataFrame。
394 0
|
2月前
|
Java 数据处理 索引
(numpy)Python做数据处理必备框架!(二):ndarray切片的使用与运算;常见的ndarray函数:平方根、正余弦、自然对数、指数、幂等运算;统计函数:方差、均值、极差;比较函数...
ndarray切片 索引从0开始 索引/切片类型 描述/用法 基本索引 通过整数索引直接访问元素。 行/列切片 使用冒号:切片语法选择行或列的子集 连续切片 从起始索引到结束索引按步长切片 使用slice函数 通过slice(start,stop,strp)定义切片规则 布尔索引 通过布尔条件筛选满足条件的元素。支持逻辑运算符 &、|。
162 0
|
5月前
|
机器学习/深度学习 算法 量子技术
GQNN框架:让Python开发者轻松构建量子神经网络
为降低量子神经网络的研发门槛并提升其实用性,本文介绍一个名为GQNN(Generalized Quantum Neural Network)的Python开发框架。
115 4
GQNN框架:让Python开发者轻松构建量子神经网络
|
5月前
|
JSON 监控 BI
拼多多批量下单工具,拼多多买家批量下单软件,低价下单python框架分享
使用Selenium实现自动化操作流程多线程订单处理提升效率
|
5月前
|
机器人 数据安全/隐私保护 Python
企业微信自动回复软件,企业微信自动回复机器人,python框架分享
企业微信机器人包含完整的消息处理流程,支持文本消息自动回复、事件处理、消息加密解密等功能
|
3月前
|
机器学习/深度学习 算法 PyTorch
【Pytorch框架搭建神经网络】基于DQN算法、优先级采样的DQN算法、DQN + 人工势场的避障控制研究(Python代码实现)
【Pytorch框架搭建神经网络】基于DQN算法、优先级采样的DQN算法、DQN + 人工势场的避障控制研究(Python代码实现)
|
3月前
|
机器学习/深度学习 算法 PyTorch
【DQN实现避障控制】使用Pytorch框架搭建神经网络,基于DQN算法、优先级采样的DQN算法、DQN + 人工势场实现避障控制研究(Matlab、Python实现)
【DQN实现避障控制】使用Pytorch框架搭建神经网络,基于DQN算法、优先级采样的DQN算法、DQN + 人工势场实现避障控制研究(Matlab、Python实现)
149 0
|
5月前
|
JSON 数据安全/隐私保护 数据格式
拼多多批量下单软件,拼多多无限账号下单软件,python框架仅供学习参考
完整的拼多多自动化下单框架,包含登录、搜索商品、获取商品列表、下单等功能。

推荐镜像

更多