python爬虫:scrapy框架xpath和css选择器语法

简介: python爬虫:scrapy框架xpath和css选择器语法

Xpath基本语法

一、常用的路径表达式:'

表达式

描述

实例

nodename

选取nodename节点的所有子节点

//div

/

从根节点选取

/div

//

选取所有的节点,不考虑他们的位置

//div

.

选取当前节点

./div

..

选取当前节点的父节点

..

@

选取属性

//@calss


举例元素标签为artical标签

语法

说明

artical

选取所有artical元素的子节点

/artical

选取根元素artical

./artical

选取当前元素下的artical

../artical

选取父元素下的artical

artical/a

选取所有属于artical的子元素a元素

//div

选取所有div 子元素,无论div在任何地方

artical//div

选取所有属于artical的div 元素,无论div元素在artical的任何位置

//@class

选取所有名为class 的属性的

a/@href

选取a标签的href属性

a/text()

选取a标签下的文本

string(.)

解析出当前节点下所有文字

string(..)

解析出父节点下所有文字

二、谓语

谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点

语法

说明

/artical/div[1]

选取所有属于artical 子元素的第一个div元素

/artical/div[last()]

选取所有属于artical子元素的最后一个div元素

/artical/div[last()-1]

选取所有属于artical子元素的倒数第2个div元素

/artical/div[position()<3]

选取所有属于artical子元素的前2个div元素

//div[@class]

选取所有拥有属性为class的div节点

//div[@class=”main”]

选取所有div下class属性为main的div节点

//div[price>3.5]

选取所有div下元素值price大于3.5的节点

三、通配符

Xpath通过通配符来选取未知的XML元素

表达式

结果

//*

选取所有元素

//div/*

选取所有属于div元素的所有子节点

//div[@*]

选取所有带属性的元素

四、取多个路径

使用“|”运算符可以选取多个路径

表达式

结果

//div | //table

选取文档中所有的div和table节点

//div/a | //div/p

选取所有div元素的a和p 元素

artical/div/pl | //span

选取所有div下的pl和文档中所有span


五、Xpath轴

轴可以定义相对于当前节点的节点集

轴名称

表达式

描述

ancestor

./ancestor::*

选取当前节点的所有先辈节点(父、祖父)

ancestor-or-self

./ancestor-or-self::*

选取当前节点的所有先辈节点以及节点本身

descendant

./descendant::*

返回当前节点的所有后代节点(子节点、孙节点)

child

./child::*

返回当前节点的所有子节点

parent

./parent::*

选取当前节点的父节点

following

./following::*

选取文档中当前节点结束标签后的所有节点

following-sibling

./following-sibling::*

选取当前节点之后的兄弟节点

preceding

./preceding::*

选取文档中当前节点开始标签前的所有节点

preceding-sibling

./preceding-sibling::*

选取当前节点之前的兄弟节点

self

./self::*

选取当前节点

attribute

./attribute::*

选取当前节点的所有属性

六、功能函数

使用功能函数能够更好的进行模糊搜索

函数

用法

解释

starts-with

//div[starts-with(@id,”ma”)]

选取id值以ma开头的div节点

contains

//div[contains(@id,”ma”)]

选取所有id值包含ma的div节点

and

//div[contains(@id,”ma”) and contains(@id,”in”)]

选取id值包含ma和in的div节点

text()

//div[contains(text(),”ma”)]

选取节点文本包含ma的div节点


注意事项:

1) 按照审查元素的写法不一定正确,要按照网页源码的才行
因为不一样,网页源码才是你看到的
2) 浏览器有自带的复制xpath功能,firefox下载firebug插件
3) xpath有c的速度,所以按照[@class=""]准确性较高

CCS选择器语法

语法

说明

*

选择所有节点

#container

选择id为container的节点

.container

选择所有class包含container的节点

div,p

选择所有 div 元素和所有 p 元素

li a

选取所有li 下所有a节点

ul + p

选取ul后面的第一个p元素

div#container > ul

选取id为container的div的第一个ul子元素

ul ~p

选取与ul相邻的所有p元素

a[title]

选取所有有title属性的a元素

a[href=”http://baidu.com”]

选取所有href属性为http://baidu.com的a元素

a[href*=”baidu”]

选取所有href属性值中包含baidu的a元素

a[href^=”http”]

选取所有href属性值中以http开头的a元素

a[href$=”.jpg”]

选取所有href属性值中以.jpg结尾的a元素

input[type=radio]:checked

选择选中的radio的元素

div:not(#container)

选取所有id为非container 的div属性

li:nth-child(3)

选取第三个li元素

li:nth-child(2n)

选取第偶数个li元素

a::attr(href)

选取a标签的href属性

a::text

选取a标签下的文本

关于更多css语法,可以查看

http://www.w3school.com.cn/cssref/css_selectors.asp

提取内容

方法

返回

Selector.xpath()

返回SelectorList对象

Selector.css()

返回SelectorList对象

SelectorList.extract()

返回List对象

SelectorList.extract_first(default)

返回String对象,可以有默认值,类似dict.get(key, default)

参考链接:

  1. 三、用Css来提取网页
  2. Python爬虫:Xpath语法笔记
相关文章
|
人工智能 Ubuntu IDE
【Python】基础:环境配置与基础语法
本文介绍了Python编程语言及其环境配置方法。Python由Guido van Rossum于1991年创建,以其简洁、易学和强大的功能著称。文章详细讲解了Python的主要特点、Windows和Ubuntu下的安装配置步骤、基础语法、控制流、函数、文件操作、模块使用及面向对象编程等内容,帮助读者快速入门Python编程。
466 4
|
IDE 数据挖掘 开发工具
Python作为一种广受欢迎的高级编程语言,以其简洁的语法和强大的功能吸引了众多初学者和专业开发者
Python作为一种广受欢迎的高级编程语言,以其简洁的语法和强大的功能吸引了众多初学者和专业开发者
393 7
|
存储 索引 Python
Python 的基本语法
这些是 Python 的基本语法要素,掌握它们是学习和使用 Python 的基础。通过不断地实践和应用,你将能够更深入地理解和熟练运用这些语法知识,从而编写出高效、简洁的 Python 代码
587 62
|
Python
课时19:Python的基本语法
今天给大家带来分享的是 Python 的基本语法,分为以下六个部分。 1.在 Python 中严格区分大小写 2.Python 中的每一行就是一条语句,每条语句以换行结束 3.Python 中每一行语句不要过长 4.条语句可以分多行编写,语句后边以\结尾 5.Python 是缩进严格的语言,不要随便写缩进 6.在 Python 中使用#来表示注释
341 2
|
存储 开发者 Python
python基本语法
Python的基本语法简洁而强大,支持多种编程范式,包括面向对象编程和函数式编程。通过掌握变量和数据类型、操作符、控制结构、函数、类和模块等基本概念,可以有效地编写高效、可读的Python代码。无论是初学者还是经验丰富的开发者,Python都提供了丰富的工具和库来满足各种编程需求。
455 13
|
存储 C语言 索引
Python 语法及入门 (超全超详细) 专为Python零基础 一篇博客让你完全掌握Python语法
本文全面介绍了Python的基础知识,包括Python的诞生背景、为什么学习Python、Python的应用场景、Python环境的安装、Python的基础语法、数据类型、控制流、函数以及数据容器的使用方法,旨在为Python零基础读者提供一篇全面掌握Python语法的博客。
4121 2
Python 语法及入门 (超全超详细) 专为Python零基础 一篇博客让你完全掌握Python语法
|
存储 Python
Python编程入门:理解基础语法与编写简单程序
本文旨在为初学者提供一个关于如何开始使用Python编程语言的指南。我们将从安装Python环境开始,逐步介绍变量、数据类型、控制结构、函数和模块等基本概念。通过实例演示和练习,读者将学会如何编写简单的Python程序,并了解如何解决常见的编程问题。文章最后将提供一些资源,以供进一步学习和实践。
287 1
|
机器学习/深度学习 数据挖掘 开发者
Python编程入门:理解基础语法与编写第一个程序
【10月更文挑战第37天】本文旨在为初学者提供Python编程的初步了解,通过简明的语言和直观的例子,引导读者掌握Python的基础语法,并完成一个简单的程序。我们将从变量、数据类型到控制结构,逐步展开讲解,确保即使是编程新手也能轻松跟上。文章末尾附有完整代码示例,供读者参考和实践。
|
存储 Python Perl
python正则语法
本文介绍了正则表达式的基础知识及其在 Python 中的应用。首先解释了为什么要使用正则表达式,通过一个判断手机号的示例展示了正则表达式的简洁性。接着详细介绍了 `re` 模块的常用方法,如 `match()`、`search()`、`findall()`、`finditer()` 等,并讲解了正则表达式的基本语法,包括匹配单个字符、数字、锚字符和限定符等。最后,文章还探讨了正则表达式的高级特性,如分组、编译和贪婪与非贪婪模式。
218 2
|
存储 程序员 开发者
Python编程入门:从零开始掌握基础语法
【10月更文挑战第21天】本文将带你走进Python的世界,通过浅显易懂的语言和实例,让你快速了解并掌握Python的基础语法。无论你是编程新手还是想学习一门新的编程语言,这篇文章都将是你的不二之选。我们将一起探索变量、数据类型、运算符、控制结构、函数等基本概念,并通过实际代码示例加深理解。准备好了吗?让我们开始吧!

推荐镜像

更多