欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  科技

Python与sed,grep文本查找效率对比小测

程序员文章站 2023-11-28 10:13:04
这篇文章主要针对python,sed与grep查找文本的效率做一个实验,方便以后选择使用什么工具,需要的朋友可以参考下... 13-09-17...
gnu awk作者在freebsd邮件列表中回答”gnu grep为什么比bsd grep要快“,提到了用到了boyer-moore算法,虽然不知道是什么,但感觉很厉害的样子~我猜想grep有多快呢?

所以想比较下下python,sed与grep:

测试文本:20w行,21m大

python普通正则匹配:


复制代码
代码如下:

#!/usr/bin/python3
import re
f=open('/tmp/test.txt')
for line in f:
match=re.findall('^this.*want',line)
if match != []:
print(match)


结果:

Python与sed,grep文本查找效率对比小测

试下编译的正则试试:


复制代码
代码如下:

#!/usr/bin/python3
import re
f=open('/tmp/test.txt')
re_obj=re.compile('^this.*want')
for line in f:
match=re_obj.findall(line)
if match != []:
print(match)


结果快了1倍:

Python与sed,grep文本查找效率对比小测


试试sed:

Python与sed,grep文本查找效率对比小测

快了1个数量级!

最后试试grep:

Python与sed,grep文本查找效率对比小测


果然grep是查找最专业的!