欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

htmlcleaner使用方法及xpath语法初探

程序员文章站 2024-03-06 12:19:01
在编程的时候或者写网络爬虫的时候,经常需要对html进行解析,抽取其中有用的数据。一款好的工具是特别有用的,能提供很多的帮助,网上有很多这样的工具,比如:htmlclean...

在编程的时候或者写网络爬虫的时候,经常需要对html进行解析,抽取其中有用的数据。一款好的工具是特别有用的,能提供很多的帮助,网上有很多这样的工具,比如:htmlcleaner、htmlparser

经使用比较:感觉 htmlcleaner 比 htmlparser 好用,尤其是htmlcleaner 的 xpath特好用。

下面针对htmlcleaner进行举例说明,需求为:取出title,name=”my_href” 的链接,div的class=”d_1″下的所有li内容。

一、htmlcleaner使用:

1、htmlcleaner

htmlcleaner是一个开源的java语言的html文档解析器。htmlcleaner能够重新整理html文档的每个元素并生成结构良好(well-formed)的 html 文档。默认它遵循的规则是类似于大部份web浏览器为创文档对象模型所使用的规则。然而,用户可以提供自定义tag和规则组来进行过滤和匹配。

主页地址:

下载地址:


2、基本示例,在wikipedia中抓取机场信息

html-clean-demo.html

html-clean-demo.html
<!doctype html public "-//w3c//dtd xhtml 1.0 transitional" "http://www.w3.org/tr/xhtml1/dtd/xhtml1-transitional.dtd ">
<html xmlns = "http://www.w3.org/1999/xhtml " xml:lang = "zh-cn" dir = "ltr">
<head>
	<meta http-equiv = "content-type" content = "text/html; charset=gbk" /> 
	<meta http-equiv = "content-language" content = "zh-cn" /> 
	<title>html clean demo </title>
</head>
<body>
<div class = "d_1">
	<ul>
		<li>bar </li>
		<li>foo </li>
		<li>gzz </li>
	</ul>
</div>
<div>
	<ul>
		<li><a name = "my_href" href = "1.html">text-1 </a></li>
		<li><a name = "my_href" href = "2.html">text-2 </a></li>
		<li><a name = "my_href" href = "3.html">text-3 </a></li>
		<li><a name = "my_href" href = "4.html">text-4 </a></li>
	</ul>
</div>
</body>
</html>

htmlcleanerdemo.java

package com.chenlb;
import java.io.file;
import org.htmlcleaner.htmlcleaner;
import org.htmlcleaner.tagnode;
/**
 * htmlcleaner 使用示例.
 *
 */
public class htmlcleanerdemo {
	public static void main(string[] args) throws exception {
		htmlcleaner cleaner = new htmlcleaner();
		tagnode node = cleaner.clean(new file("html/html-clean-demo.html"), "gbk");
		//按tag取.
		object[] ns = node.getelementsbyname("title", true);	//标题
		if(ns.length > 0) {
			system.out.println("title="+((tagnode)ns[0]).gettext());
		}
		system.out.println("ul/li:");
		//按xpath取
		ns = node.evaluatexpath("//div[@class='d_1']//li");
		for(object on : ns) {
			tagnode n = (tagnode) on;
			system.out.println("\ttext="+n.gettext());
		}
		system.out.println("a:");
		//按属性值取
		ns = node.getelementsbyattvalue("name", "my_href", true, true);
		for(object on : ns) {
			tagnode n = (tagnode) on;
			system.out.println("\thref="+n.getattributebyname("href")+", text="+n.gettext());
		}
	}
}

cleaner.clean()中的参数,可以是文件,可以是url,可以是字符串内容。比较常用的应该是evaluatexpath、 getelementsbyattvalue、getelementsbyname方法了。另外说明下,htmlcleaner 对不规范的html兼容性比较好。

在wikipedia中抓取机场信息

import java.io.unsupportedencodingexception;
import org.htmlcleaner.htmlcleaner;
import org.htmlcleaner.tagnode;
import org.htmlcleaner.xpatherexception;
import org.slf4j.logger;
import org.slf4j.loggerfactory;
//import com.moore.index.babystory;
import com.moore.util.httpclientutil;
/**
 * 用途:todo
 * 
 * @author bbdtek
 */
public class parserairport {
	private static logger log = loggerfactory.getlogger(parserairport.class);
	/**
	 * @param args
	 * @throws unsupportedencodingexception
	 * @throws xpatherexception
	 */
	public static void main(string[] args) throws unsupportedencodingexception,
			xpatherexception {
		string url = "http://zh.wikipedia.org/wiki/%e4%b8%ad%e5%8d%8e%e4%ba%ba%e6%b0%91%e5%85%b1%e5%92%8c%e5%9b%bd%e6%9c%ba%e5%9c%ba%e5%88%97%e8%a1%a8";
		string contents = httpclientutil.getutil().getcon(url);
		htmlcleaner hc = new htmlcleaner();
		tagnode tn = hc.clean(contents);
		string xpath = "//div[@class='mw-content-ltr']//table[@class='wikitable + sortable']//tbody//tr[@align='right']";
		object[] objarr = null;
		objarr = tn.evaluatexpath(xpath);
		if (objarr != null && objarr.length > 0) {
			for (object obj : objarr) {
				tagnode tntr = (tagnode) obj;
				string xptr = "//td[@align='left']//a";
				object[] objarrtr = null;
				objarrtr = tntr.evaluatexpath(xptr);
				if (objarrtr != null && objarrtr.length > 0) {
					for (object obja : objarrtr) {
						tagnode tna = (tagnode) obja;
						string str = tna.gettext().tostring();
						log.info(str);
					}
				}
			}
		}
	}
}

二、xpath初探

1、xpath简介:

xpath 是一门在 xml 文档中查找信息的语言。xpath 可用来在 xml 文档中对元素和属性进行遍历。

2、xpath节点选取


xpath 使用路径表达式在 xml 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

下面列出了最有用的路径表达式:

表达式 描述
nodename 选取此节点的所有子节点。
/ 从根节点选取。
// 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。
. 选取当前节点。
.. 选取当前节点的父节点。
@ 选取属性。

一些常用表达式

路径表达式 结果
/bookstore/book[1] 选取属于 bookstore 子元素的第一个 book 元素。
/bookstore/book[last()] 选取属于 bookstore 子元素的最后一个 book 元素。
/bookstore/book[last()-1] 选取属于 bookstore 子元素的倒数第二个 book 元素。
/bookstore/book[position()<3] 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。
//title[@lang] 选取所有拥有名为 lang 的属性的 title 元素。
//title[@lang='eng'] 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。
/bookstore/book[price>35.00] 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。
/bookstore/book[price>35.00]/title 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。