使用正则表达式实现网页爬虫的思路详解

网页爬虫：就是一个程序用于在互联网中获取指定规则的数据。

思路：

1.为模拟网页爬虫，我们可以现在我们的tomcat服务器端部署一个1.html网页。（部署的步骤：在tomcat目录的webapps目录的roots目录下新建一个1.html。使用notepad++进行编辑，编辑内容为：

）

2.使用url与网页建立联系
3.获取输入流，用于读取网页中的内容
4.建立正则规则，因为这里我们是爬去网页中的邮箱信息，所以建立匹配 邮箱的正则表达式：string regex="\w+@\w+(\.\w+)+";
5.将提取到的数据放到集合中。

代码：

import java.io.bufferedreader;
import java.io.inputstream;
import java.io.inputstreamreader;
import java.net.url;
import java.util.arraylist;
import java.util.list;
import java.util.regex.matcher;
import java.util.regex.pattern;
/*
 * 网页爬虫:就是一个程序用于在互联网中获取指定规则的数据
 * 
 * 
 */
public class regexdemo {
 public static void main(string[] args) throws exception {
 
 list<string> list=getmailbyweb();
 for(string str:list){
 system.out.println(str);
 }
 
 }
 private static list<string> getmailbyweb() throws exception {
 
 //1.与网页建立联系。使用url
 string path="http://localhost:8080//1.html";//后面写双斜杠是用于转义
 url url=new url(path);
 //2.获取输入流
 inputstream is=url.openstream();
 //加缓冲
 bufferedreader br=new bufferedreader(new inputstreamreader(is));
 //3.提取符合邮箱的数据
 string regex="\\w+@\\w+(\\.\\w+)+";
 //进行匹配
 //将正则规则封装成对象
 pattern p=pattern.compile(regex);
 //将提取到的数据放到一个集合中
 list<string> list=new arraylist<string>();
 
 string line=null;
 while((line=br.readline())!=null){
 //匹配器
 matcher m=p.matcher(line);
 while(m.find()){
 //3.将符合规则的数据存储到集合中
 list.add(m.group());
 }
 }
 
 return list;
 }
}

注意:在执行前需要先开启tomcat服务器

运行结果：

总结

以上所述是小编给大家介绍的使用正则表达式实现网页爬虫的思路详解，希望对大家有所帮助