六:《智慧的网络爬虫》— 正则表达式概述

简介: 【8月更文挑战第7天】本文介绍了正则表达式的基本概念、用途,如表单验证和爬虫,以及Python中re模块的使用,包括match(),match()函数、元字符、预定义字符集、重复匹配、位置匹配、非贪婪模式和re模块的常用方法如compile(),search(),findall(),split(),sub()等。

正则表达式,又称规则表达式,(Regular Expression,在代码中常简写为regexregexpRE),是一种文本模式,包括普通字符(如:a 到 z 之间的字母)和特殊字符(称为"元字符"),是计算机科学的一个概念。正则表达式使用单个字符串来描述、匹配一系列匹配某个语法规则的字符串,通常被用来检索、替换那些符合某个模式(规则)的文本。

  • 正则表达式是一个特殊的字符序列,它能帮助你方便的检查一个字符串是否与某种模式匹配。
  • 正则表达式使用单个字符串来描述、匹配一系列匹配某个语法规则的字符串。
  • 正则表达式虽然繁琐,但确是很强大的,可以提高效率
  • 许多程序设计语言都支持利用正则表达式进行字符串操作。
正则表达式的应用场景:
  • 表单验证(例如 : 手机号、邮箱、身份证.... )
  • 爬虫

1.普通字符

字母、数字、汉字、下划线、以及没有特殊定义的符号,都是普通字符。正则表达式中的普通字符,在匹配的时

候,只匹配与自身相同的一个字符。

如:表达式c,在匹配字符串"abcde"时,匹配结果是:成功;匹配到的内容是c;匹配到的位置开始于2,结束于3。

注意: 下标从0开始还是从1开始,因当前编程语言的不同而可能不同

2.match()函数

  • match(pattern, string[,flags])
  • 第一个参数是正则表达式,如果匹配成功,则返回一个match对象,否则返回一个None
  • 第二个参数表示要匹配的字符串
  • 第三个参数是标志位用于控制正则表达式的匹配方式。如: 是否区分大小写,多行匹配等

flags匹配模式(标志位):

匹配模式 描述
re.A ASCII字符模式
re.I 使匹配对大小写不敏感,也就是不区分大小写的模式
re.L 做本地化识别(locale-aware)匹配
re.M 多行匹配,影响^$
re.S 使.这个通配符能够匹配包括换行在内的所有字符,针对多行匹配
re.U 根据Unicode字符集解析字符,这个标志影响\w\W\b\B
re.X 该标志通过给予更灵活的格式以便将正则表达式写得更易于理解

使用match()函数,需要导入模块:re模块是内置库,不用我们去安装,直接导入使用即可

#导入模块
import re

代码示例:match()函数的使用

import re

#pattern = 'ad' # bd在string中并不是连贯存在的
#pattern = 'a' # 此时匹配成功
pattern = 'b' # 此时匹配失败,发生错误
string = 'abcdefg'
#result = re.match(pattern,string).group() #group()捕获
result = re.match(pattern,string)

print(result)
if result:
    print("匹配成功")
else:
    print("匹配失败")

注意:

  • 正则表达式的匹配模式一定要是作为一个整体去进行匹配的,必须连贯的,不能单独存在
  • match()对象是从头开始匹配的,如果最开始的地方没有匹配到,那么一定会返回None
  • 在正则表达式没有匹配到的情况下,使用group()想去捕获匹配到的内容会发生报错

3.元字符

正则表达式中使⽤了很多元字符,⽤来表示⼀些特殊的含义或功能的字符

表达式 匹配
. 小数点可以匹配除了换行符\n以外的任何一个字符
竖杠 逻辑或操作符
[] 匹配字符集中的一个字符
[^] 对字符集求反,也就是上面的反操作,尖号必须在方括号里的最前面
- 定义[]里的一个字符区间
\ 对紧跟其后的一个字符进行转义
() 对表达式进行分组,将圆括号内的内容当做一个整体,并获得匹配的值

代码示例:元字符的使用

import re

# .
pattern = 'w.q'
string = "wwq" # 此时匹配成功
#string = "wwwq" # 此时匹配失败,不满足从开始位连贯匹配的整体条件
result = re.match(pattern,string).group()
print(result)
import re

# |
pattern = 'w|q'
string = 'w' # 取得字符 w
# string = 'q' # 取得字符 q
# string = 'wq' # 取得字符 w
# string = 'qw' # 取得字符 q
# string = 'zw' # 匹配失败
result = re.match(pattern,string).group() # match()函数是从最开始开始匹配且或者|只能取得开头的第一个字符
print(result)
import re

# [] -- 任意匹配中括号里面的其中一个字符
print(re.match('[wqz]','w').group()) 
print(re.match('[wqz]','q').group())
print(re.match('[wqz]2','w2').group())
import re

# [^] -- 取反是在括号的里面进行取反,指的是除括号里面的内容取不到以外,其它全可以取到
print(re.match('[^a-z]','S').group())
print(re.match('[^a-z]','3').group()) 
# print(re.match('[^a-z]','w').group()) # 匹配失败,发生错误
import re

# - -- 指的是匹配一个范围
print(re.match('[a-z]','w').group()) # 匹配a到z
import re

#\ -- 转义,有特殊数据或特殊字符时才会用到
print(re.match('开发者社区温轻舟2','开发者社区温轻舟.').group()) # 匹配失败
print(re.match('开发者社区温轻舟.','开发者社区温轻舟2').group())
print(re.match('开发者社区温轻舟.','开发者社区温轻舟.').group())
print(re.match('开发者社区温轻舟\.','开发者社区温轻舟.').group())
# print(re.match('开发者社区温轻舟\.','开发者社区温轻舟2').group()) # 匹配失败
import re

# ()分组
print(re.match('(wq.)','wqz').group(1)) # 如果分组较多时记得标序号
print(re.match('(wq.)','wqz').groups()) # 获取所有的分组

'''
分组功能
Python的re模块有一个分组功能。所谓的分组就是去已经匹配到的内容再筛选出需要的内容,相当于二次过滤。实现分组靠圆括号(),而获取分组的内容靠的是group();groups(),re模块里的某个重要方法在分组上,有不同的表现形式,需要区别对待
'''

一些无法书写或者具有特殊功能的字符,采用在前面加斜杠进行转义的方法,如:

表达式 匹配
\r\n 匹配回车和换行符
\t 匹配制表符
\\ 匹配斜杠\
\^ 匹配^符号
\$ 匹配$符号
\. 匹配小数点.

注意: 尚未列出的还有问号;星号*和括号等其他的符号。所有正则表达式中具有特殊含义的字符在匹配自身的时候,都要使用斜杠进行转义。这些转义字符的匹配用法与普通字符类似,也是匹配与之相同的一个字符

4.预定义匹配字符集

正则表达式中的一些表示方法,可以同时匹配某个预定义字符集中的任意一个字符。

如,表达式\d可以匹配任意一个数字。虽然可以匹配其中任意字符,但是只能是一个,不是多个

表达式 匹配
\d 任意一个数字,0~9中的任意一个
\w 任意一个字母或数字或下划线,也就是A~Za~z0~9_中的任意一个
\s 空格;制表符;换页符等空白字符的其中任意一个
\D \d的反集,也就是非数字的任意一个字符,等同于[^\d]
\W \w的反集,也就是[^\w]
\S \s的反集,也就是[^\s]

代码示例:预定义匹配字符集的使用

import re
print(re.match('\d\d\d','123123123').group())

print(re.match('\w','1').group())
print(re.match('\w','a').group())
print(re.match('\w','A').group())
print(re.match('\w','_').group())

print(1) # 这里是为了方便查看
print(re.match('\s',' ').group())
print(2) # 这里是为了方便查看
print(re.match('\s','\t').group())
print(3) # 这里是为了方便查看
print(re.match('\s','\n').group())

5.重复匹配

前面的表达式,无论是只能匹配一种字符的表达式,还是可以匹配多种字符其中任意一个的表达式,都只能匹配一次。但是有时候我们需要对某个字段进行重复匹配。

如:手机号码13666666666,一般的新手可能会写成\d\d\d\d\d\d\d\d\d\d\d(这并不是一个恰当的表达式),不但写着费劲,看着也累,还不⼀定准确恰当。

表达式 匹配
{n} 表达式重复n次。如:\d{n}相当于\d\da{3}相当于aaa
{m,n} 表达式至少重复m次,最多重复n次。如:ab{1,3}可以匹配ababbabbb
{m,} 表达式至少重复m次。如:\w\d{2,}可以匹配a12_1111M123
? 匹配表达式0次或者1次,相当于{0,1}。如:a[cd]?可以匹配aacad
+ 表达式至少出现1次,相当于{1,}。如:a+b可以匹配abaabaaab
* 表达式出现0次到任意次,相当于{0,}。如:\^*b可以匹配b^^^b

代码示例:重复匹配表达式的使用

import re
# {n}
print(re.match('\d{3}','123').group())

# {m,n}
print(re.match('\d{3,4}-\d{7,8}','0730-1008611').group())

# {m,}
print(re.match('\d{3,}','07301008611').group())

# ?
print(re.match('w[qz]?','w').group())
print(re.match('w[qz]?','wq').group())
print(re.match('w[qz]?','wz').group())
print(re.match('w[qz]?','wqz').group()) 

# +
print(re.match('w[a-z]+','wqz').group())
print(re.match('w[a-z]+','wq').group())
# print(re.match('w[a-z]+','w').group()) # 发生错误

# *
print(re.match('w[a-z]*','wqz').group())
print(re.match('w[a-z]*','wq').group())
print(re.match('w[a-z]*','w').group())

注意:

  • 正则写的表达式,一定要当一个整体去看
  • 因为我们在取值的过程中,像div这种标签特别的多,很难知道在哪里开始到哪里结束,所以?表达式就显得尤为重要

6.位置匹配

有时候,我们对匹配出现的位置有要求,比如开头、结尾、单词之间等等

表达式 匹配
^ 在字符串开始的地方匹配,符号本身不匹配任何字符
$ 在字符串结束的地方匹配,符号本身不匹配任何字符
\b 匹配一个单词边界,也就是单词和空格之间的位置,符号本身不匹配任何字符
\B 匹配非单词边界,即左右两边都是\w范围或者左右两边都不是\w范围时的字符缝隙

代码示例:位置匹配表达式的使用

import re

# ^
print(re.match('^a\d{3,}','a123456').group())
# print(re.search('^a\d{3,}','ba123456').group()) # 发生报错,因为没有以指定的a开头
print(re.search('^a\d{3,}','a123w456').group())

# $
# print(re.search('^a\d{3,}w$','a123w456').group()) # 发生报错,因为没有以指定的w开头
print(re.search('^a\d{3,}w$','a123456w').group())

注意:

  • 后两个表达式(\b\B)极少会去使用
  • 注意区分位置表达式的开始匹配(^)与元字符中的字符集求反表达式([^]

7.贪婪与非贪婪

在重复匹配时,正则表达式默认总是尽可能多的匹配,这被称为贪婪模式。

贪婪与非贪婪的示例代码:

import re

a = '<div>aliyun</div><div>wqz</div>'
# 取到<div>aliyun</div>这个值

# b = '<div>.*</div>' # 此时会取到所有的值,因为*是贪婪的
b = '<div>.*?</div>'
print(re.match(b,a,re.S).group())

注意:

  • 非贪婪的属性:.*?
  • 贪婪的属性:.*

(1)校验数字的相关表达式:

功能 表达式
数字 ^[0-9]*$
n位的数字 ^\d{n}$
至少n位的数字 ^\d{n,}$
有两位小数的正实数 ^[0-9]+(.[0-9]{2})?$
非零的负整数 ^-[1-9]\d*$
非负的浮点数 ^\d+(\.\d+)?$
浮点数 ^(-?\d+)(\.\d+)?$

(2)特殊场景的表达式:

功能 表达式
Email地址 ^\w+([-+.]\w+)*@\w+([-.]\w+)*\.\w+([-.]\w+)*$
域名 [a-zA-Z0-9][-a-zA-Z0-9]{0,62}(/.[a-zA-Z0-9][-a-zA-Z0-9]{0,62})+/.?
日期格式 ^\d{4}-\d{1,2}-\d{1,2}
空白行的正则表达式 \n\s*\r(可以用来删除空白行)
IP地址提取 \d+\.\d+\.\d+\.\d+(提取IP地址)

8.re模块常用方法

方法 描述 返回值
compile(pattern[,flags]) 根据包含正则表达式的字符串创建模式对象 re对象
search(pattern, string[,flags]) 在字符串中查找 第一个匹配到的对象或者None
match(pattern,string[,flags]) 在字符串的开始处匹配模式 在字符串开头匹配到的对象或者None
split(pattern, string[,maxsplit=0, flags]) 根据模式的匹配项来分割字符串 分割后的字符串列表
findall(pattern, string, flags) 列出字符串中模式的所有匹配项 所有匹配到的字符串列表
sub(pattern, repl, string[,count=0, flags]) 将字符串中所有的pattern的匹配项用reql替换 完成替换后的新字符串

(1)compile(pattern, flags=0)

这个方法是re模块的工厂法,⽤于将字符串形式的正则表达式编译为Pattern模式对象,可以实现更加效率的匹配。第二个参数flag是匹配模式 使用compile()完成一次转换后,再次使用该匹配模式的时候就不能进行转换了。经过compile()转换的正则表达式对象也能使用普通的re方法

import re
pattern = re.compile('python')
text = 'python2024'
print(pattern,type(pattern)) # 此时返回的是一个re对象
print(pattern.match(text).group())

(2)search(pattern, string, flags=0)

从当前字符串中进行全局搜索,返回第一个匹配到的字符串。它的返回值类型和使用方法与match()是一样的,唯一的区别就是查找的位置不用固定在文本的开头

(3)findall(pattern, string, flags=0)

作为re模块的三大搜索函数之一,findall()match()search()的不同之处在于,前两者都是单值匹配,找到一个就忽略后面,直接返回不再查找了。而findall()是全文查找,它的返回值是一个匹配到的字符串的列表。这个列表没有group()方法,没有startendspan,更不是一个匹配对象,仅仅是个列表!如果一项都没有匹配到那么返回一个空列表

import re
i = '1*2+3-4/1' 
print(re.findall('\d',i)) # 将数字分割出来

(4)split(pattern, string, maxsplit=0, flags=0)

re模块的split()方法和字符串的split()方法很相似,都是利用特定的字符去分割字符串。但是re模块的split()可以使用正则表达式,因此更灵活,更强大。split()有个参数maxsplit,用于指定分割的次数

import re
i = '1*2+3-4/1' 
print(re.split('[\*\+\-\/]',i,maxsplit=2)) # 将数字分割出来,切2段,所以是3块

(5)sub(pattern, repl, string, count=0, flags=0)

sub()方法类似字符串的replace()方法,用指定的内容替换匹配到的字符,可以指定替换次数

import re
n = '<*温轻舟?'
print(re.sub('[\/:*?"<>!]','',n)) # 将n中的特殊字符替换掉

目录
相关文章
|
24天前
|
存储 网络协议 安全
|
3天前
|
Linux 调度 Docker
容器网络概述
【9月更文挑战第9天】容器技术利用如命名空间(namespace)和控制组(cgroup)等技术创建隔离环境,实现资源限制与独立运行。命名空间避免命名冲突,cgroup则能对CPU、内存等资源进行限制。容器状态可通过镜像保存并标准化,确保在任何环境中都能复现相同状态。
|
28天前
|
存储 NoSQL MongoDB
八:《智慧的网络爬虫》— MongoDB概述
【8月更文挑战第14天】本篇文章简单介绍了MongoDB的下载和安装以;其基本的操作语法,并附上每个语法的代码示例,为后续的爬虫学习打下基础
28 0
八:《智慧的网络爬虫》— MongoDB概述
|
1月前
|
SQL 数据采集 关系型数据库
七:《智慧的网络爬虫》— MySQL概述
【8月更文挑战第11天】本篇文章详细的介绍了MySQL数据库的安装与使用;并讲述了MySQL的基本操作及其应用语法
31 0
七:《智慧的网络爬虫》— MySQL概述
|
11天前
|
存储 运维 监控
|
1月前
|
Linux 调度 Docker
容器网络概述
【8月更文挑战第7天】容器就是 Container,而 Container 的另一个意思是集装箱。其实容器的思想就是要变成软件交付的集装箱。集装箱的特点,一是打包,二是标准。
|
3月前
|
数据采集 前端开发 开发者
《智慧的网络爬虫》— CSS概述
CSS主要作用是定义网页的样式。如网页元素的位置、大小、颜色等,也是前端及爬虫入门必须要学习的内容
38 7
《智慧的网络爬虫》—  CSS概述
|
3月前
|
数据采集 移动开发 前端开发
《智慧的网络爬虫》— HTML概述
网页是构成网站的基本元素,它是一个包含HTML标签的纯文本文件,通常是由图片;链接;视频;声音;文字等元素组成。通常我们所看到的网页,常以 .htm 或 .html 后缀结尾的文件,因此将其俗称为HTML文件。HTML;CSS;JS是学习爬虫的基础,是必须要了解的,此篇文章我讲述了HTML5对于爬虫所要必备的基础知识
32 1
《智慧的网络爬虫》—  HTML概述
|
30天前
|
存储 网络协议 安全
第一章 计算机网络概述
第一章 计算机网络概述
30 0
|
3月前
|
网络协议 Java 开发者
网络编程概述
网络编程
54 8