本文共 6959 字,大约阅读时间需要 23 分钟。
2. 正则表达式
2.1 概述
- 学习动机
- 文本数据处理已经成为常见的编程工作之一
- 对文本内容的搜索,定位,提取是逻辑比较复杂的工作
- 为了快速方便的解决上述问题,产生了正则表达式技术
- 定义
即文本的高级匹配模式,其本质是由一系列字符和特殊符号构成的字串,这个字串即正则表达式。
- 原理
通过普通字符和有特定含义的字符,来组成字符串,用以描述一定的字符串规则,比如:重复,位置等,来表达某类特定的字符串,进而匹配。
- 学习目标
- 熟练掌握正则表达式元字符
- 能够读懂常用正则表达式,编辑简单的正则规则
- 能够熟练使用re模块操作正则表达式
2.2 元字符使用
- 普通字符
匹配规则:每个普通字符匹配其对应的字符
e.g.In : re.findall('ab',"abcdefabcd")Out: ['ab', 'ab']In [20]: re.findall("ab","afggasabfdfab")Out[20]: ['ab', 'ab']
注意:正则表达式在python中也可以匹配中文
- 或关系
元字符: |
匹配规则: 匹配 | 两侧任意的正则表达式即可
e.g.In : re.findall('com|cn',"www.baidu.com/www.tmooc.cn")Out: ['com', 'cn']
- 匹配单个字符
元字符:.
匹配规则:匹配除换行外的任意一个字符
e.g.In : re.findall('张.丰',"张三丰,张四丰,张五丰")Out: ['张三丰', '张四丰', '张五丰']
- 匹配字符集
元字符: [字符集]
匹配规则: 匹配字符集中的任意一个字符
表达形式:
[abc#!好] 表示 [] 中的任意一个字符
[0-9],[a-z],[A-Z] 表示区间内的任意一个字符 [_#?0-9a-z] 混合书写,一般区间表达写在后面
e.g.In : re.findall('[aeiou]',"How are you!")Out: ['o', 'a', 'e', 'o', 'u']
- 匹配字符集反集
元字符:[^字符集]
匹配规则:匹配除了字符集以外的任意一个字符
e.g.In : re.findall('[^0-9]',"Use 007 port")Out: ['U', 's', 'e', ' ', ' ', 'p', 'o', 'r', 't']
- 匹配字符串开始位置
元字符: ^
匹配规则:匹配目标字符串的开头位置
e.g.In : re.findall('^Jame',"Jame,hello")Out: ['Jame']
- 匹配字符串的结束位置
元字符: $
匹配规则: 匹配目标字符串的结尾位置
e.g.In : re.findall('Jame$',"Hi,Jame")Out: ['Jame']
规则技巧:
^
和$
必然出现在正则表达式的开头和结尾处。如果两者同时出现,则中间的部分必须匹配整个目标字符串的全部内容。
- 匹配字符重复
元字符: *
匹配规则:匹配前面的字符出现0次或多次
e.g.In : re.findall('wo*',"wooooo~~w!")Out: ['wooooo', 'w']
元字符:+
匹配规则: 匹配前面的字符出现1次或多次
e.g.In : re.findall('[A-Z][a-z]+',"Hello World")Out: ['Hello', 'World']
元字符:?
匹配规则: 匹配前面的字符出现0次或1次
e.g. 匹配整数In [28]: re.findall('-?[0-9]+',"Jame,age:18, -26")Out[28]: ['18', '-26']
元字符:{n}
匹配规则: 匹配前面的字符出现n次
e.g. 匹配手机号码In : re.findall('1[0-9]{10}',"Jame:13886495728")Out: ['13886495728']
元字符:{m,n}
匹配规则: 匹配前面的字符出现m-n次
e.g. 匹配qq号In : re.findall('[1-9][0-9]{5,10}',"Baron:1259296994") Out: ['1259296994']
- 匹配任意(非)数字字符
元字符: \d
\D
匹配规则:\d
匹配任意数字字符,\D
匹配任意非数字字符
e.g. 匹配端口In : re.findall('\d{1,5}',"Mysql: 3306, http:80")Out: ['3306', '80']
- 匹配任意(非)普通字符
元字符: \w
匹配规则: \w
匹配普通字符,\W
匹配非普通字符
说明: 普通字符指数字,字母,下划线,汉字。
e.g.In : re.findall('\w+',"server_port = 8888")Out: ['server_port', '8888']
- 匹配任意(非)空字符
元字符: \s
\S
crf 匹配规则:\s
匹配空字符,\S
匹配非空字符
说明:空字符指 空格\r \n \t \v \f
字符
e.g.In : re.findall('\w+\s+\w+',"hello world")Out: ['hello world']
- 匹配(非)单词的边界位置
元字符:\b
\B
匹配规则:\b
表示单词边界,\B
表示非单词边界
说明:单词边界指数字字母(汉字)下划线与其他字符的交界位置。
e.g.In : re.findall(r'\bis\b',"This is a test.")Out: ['is']
注意: 当元字符符号与Python字符串中转义字符冲突的情况则需要使用r将正则表达式字符串声明为原始字符串,如果不确定那些是Python字符串的转义字符,则可以在所有正则表达式前加r。
类别 | 元字符 |
---|---|
匹配字符 | . [...] [^...] \d \D \w \W \s \S |
匹配重复 | * + ? {n} {m,n} |
匹配位置 | ^ $ \b \B |
其他 | | () \ |
2.3 匹配规则
2.3.1 特殊字符匹配
-
目的 : 如果匹配的目标字符串中包含正则表达式特殊字符,则在表达式中元字符就想表示其本身含义时就需要进行 \ 处理。
特殊字符: . * + ? ^ $ [] () {} | \
-
操作方法:在正则表达式元字符前加 \ 则元字符就是去其特殊含义,就表示字符本身
e.g. 匹配特殊字符 . 时使用 \. 表示本身含义In : re.findall('-?\d+\.?\d*',"123,-123,1.23,-1.23")Out: ['123', '-123', '1.23', '-1.23']
2.3.2 贪婪模式和非贪婪模式
- 定义
贪婪模式: 默认情况下,匹配重复的元字符总是尽可能多的向后匹配内容。比如: * + ? {m,n}
非贪婪模式(懒惰模式): 让匹配重复的元字符尽可能少的向后匹配内容。
- 贪婪模式转换为非贪婪模式
在对应的匹配重复的元字符后加 ‘?’ 号即可
* -> *?+ -> +?? -> ??{ m,n} -> { m,n}?
e.g.In : re.findall(r'\(.+?\)',"(abcd)efgh(higk)")Out: ['(abcd)', '(higk)']
2.3.3 正则表达式分组
- 定义
在正则表达式中,以()建立正则表达式的内部分组,子组是正则表达式的一部分,可以作为内部整体操作对象。
- 作用 : 可以被作为整体操作,改变元字符的操作对象
e.g. 改变 +号 重复的对象In : re.search(r'(ab)+',"ababababab").group()Out: 'ababababab'e.g. 改变 |号 操作对象In : re.search(r'(王|李)\w{1,3}',"王者荣耀").group()Out: '王者荣耀'
- 捕获组
捕获组本质也是一个子组,只不过拥有一个名称用以表达该子组的意义,这种有名称的子组即为捕获组。
格式:
(?P<name>pattern)
e.g. 给子组命名为 "pig"In : re.search(r'(?Pab)+',"ababababab").group('pig')Out: 'ab'In [5]: re.search(r'(?P ab)+',"ababababab").group()Out[5]: 'ababababab'
- 注意事项
- 一个正则表达式中可以包含多个子组
- 子组可以嵌套但是不宜结构过于复杂
- 子组序列号一般从外到内,从左到右计数
2.3.4 正则表达式匹配原则
- 正确性,能够正确的匹配出目标字符串.
- 排他性,除了目标字符串之外尽可能少的匹配其他内容.
- 全面性,尽可能考虑到目标字符串的所有情况,不遗漏.
2.4 Python re模块使用
2.4.1 基础函数使用
regex = compile(pattern,flags = 0) 功能: 生产正则表达式对象 参数: pattern 正则表达式 flags 功能标志位,扩展正则表达式的匹配 返回值: 正则表达式对象
re.findall(pattern,string,flags = 0) 功能: 根据正则表达式匹配目标字符串内容 参数: pattern 正则表达式 string 目标字符串 flags 功能标志位,扩展正则表达式的匹配 返回值: 匹配到的内容列表,如果正则表达式有子组则只能获取到子组对应的内容
regex.findall(string,pos,endpos) 功能: 根据正则表达式匹配目标字符串内容 参数: string 目标字符串 pos 截取目标字符串的开始匹配位置 endpos 截取目标字符串的结束匹配位置 返回值: 匹配到的内容列表,如果正则表达式有子组则只能获取到子组对应的内容
re.split(pattern,string,max,flags = 0) 功能: 使用正则表达式匹配内容,切割目标字符串 参数: pattern 正则表达式 string 目标字符串 max 最多切割几部分 flags 功能标志位,扩展正则表达式的匹配 返回值: 切割后的内容列表
re.sub(pattern,replace,string,count,flags = 0) 功能: 使用一个字符串替换正则表达式匹配到的内容 参数: pattern 正则表达式 replace 替换的字符串 string 目标字符串 count 最多替换几处,默认替换全部 flags 功能标志位,扩展正则表达式的匹配 返回值: 替换后的字符串
"""re模块演示1"""import re# 目标字符串s = "Alex:1996,Sunny:1998"pattern = r"(\w+):(\d+)" # 正则表达式# pattern = r"\w+:\d+" # 正则表达式# re直接调用l = re.findall(pattern,s)print(l)# 生成正则表达式对象regex = re.compile(pattern)l = regex.findall(s,0,13) # 目标字符串变为 s[0:13]print(l)# 使用正则表达式匹配内容分割字符串l = re.split(r"\W+",s,2)print(l)# 替换目标字符串中匹配到的内容s = re.sub(r"\W+",'##',s,2)print(s)-----------------------------------------------[('Alex', '1996'), ('Sunny', '1998')][('Alex', '1996')]['Alex', '1996', 'Sunny:1998']Alex##1996##Sunny:1998
2.4.2 生成match对象
re.finditer(pattern,string,flags = 0) 功能: 根据正则表达式匹配目标字符串内容 参数: pattern 正则表达式 string 目标字符串 flags 功能标志位,扩展正则表达式的匹配 返回值: 匹配结果的迭代器
re.match(pattern,string,flags=0)功能:匹配某个目标字符串开始位置参数:pattern 正则 string 目标字符串返回值:匹配内容match object 没有匹配到返回None
re.search(pattern,string,flags=0)功能:匹配目标字符串第一个符合内容参数:pattern 正则 string 目标字符串返回值:匹配内容match object 没有匹配到返回None
"""re模块示例,生成match对象一个match对象对应一处匹配内容用于获取匹配到内容的详细信息"""import res = "时,2020年春,AID 2002 班开课"# s = "2020年春,AID 2002 班开课"pattern = r"\d+"# 匹配返回迭代器it = re.finditer(pattern ,s)for i in it: print(i.group()) # 得到match对象# 匹配开头位置# obj = re.match(pattern,s)# print(obj.group())# 匹配第一处obj = re.search(pattern,s)print(obj.group())
2.4.3 match对象使用
-
span() 获取匹配内容的起止位置,返回2元元组
-
groupdict() 获取捕获组字典,组名为键,对应内容为值
-
groups() 获取子组对应内容,返回元组
-
group(n = 0)
功能:获取match对象匹配内容
参数:默认为0表示获取整个match对象内容,如果是序列号或者组名则表示获取对应子组内容 返回值:匹配字符串
"""match对象使用"""import res = "abcdefghi"pattern = "(ab)cd(?Pef)"obj = re.search(pattern,s) # 获取match对象print(obj.span()) # s[0:6] 获取匹配到的内容在目标字符串中的位置print(obj.groupdict()) # 获取捕获组字典 组名为键,匹配到的内容为值print(obj.groups()) # 获取子组匹配到的内容print(obj.group()) # 获取匹配内容-------------------------------------------------(0, 6){ 'dog': 'ef'}('ab', 'ef')abcdef
2.4.4 flags参数扩展
-
作用函数:re模块调用的匹配函数。如:re.compile,re.findall,re.search…
-
功能:扩展丰富正则表达式的匹配功能
-
常用flag
A == ASCII 元字符只能匹配ascii码I == IGNORECASE 匹配忽略字母大小写S == DOTALL 使 . 可以匹配换行M == MULTILINE 使 ^ $可以匹配每一行的开头结尾位置
注意:同时使用多个flag,可以用竖线连接 flags = re.I | re.A
内容在目标字符串中的位置 print(obj.groupdict()) # 获取捕获组字典 组名为键,匹配到的内容为值 print(obj.groups()) # 获取子组匹配到的内容 print(obj.group()) # 获取匹配内容
(0, 6)
{‘dog’: ‘ef’} (‘ab’, ‘ef’) abcdef[外链图片转存中...(img-RnhWDKmJ-1623680032865)]#### 2.4.4 flags参数扩展* 作用函数:re模块调用的匹配函数。如:re.compile,re.findall,re.search....* 功能:扩展丰富正则表达式的匹配功能* 常用flag ```re A == ASCII 元字符只能匹配ascii码 I == IGNORECASE 匹配忽略字母大小写 S == DOTALL 使 . 可以匹配换行 M == MULTILINE 使 ^ $可以匹配每一行的开头结尾位置
注意:同时使用多个flag,可以用竖线连接 flags = re.I | re.A
转载地址:https://blog.csdn.net/z_202041/article/details/117913728 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!