HtmlParser介绍 · 网络爬虫知识汇总

# HtmlParser介绍 <div>1、相关资料 官方文档：http://htmlparser.sourceforge.net/samples.html API：http://htmlparser.sourceforge.net/javadoc/index.html 其它HTML 解释器：jsoup等。由于HtmlParser自2006年以后就再没更新，目前很多人推荐使用jsoup代替它。 2、使用HtmlPaser的关键步骤 （1）通过Parser类创建一个解释器 （2）创建Filter或者Visitor （3）使用parser根据filter或者visitor来取得所有符合条件的节点 （4）对节点内容进行处理 3、使用Parser的构造函数创建解释器<table border="1" cellpadding="2" cellspacing="0" width="100%" style="color: rgb(0, 0, 0); font-family: Simsun; font-size: 14px;"><tbody><tr style="background-color:rgb(238,238,238);"><td style="height: 41px;"><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>()</code>            Zero argument constructor.</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28org.htmlparser.lexer.Lexer%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class in org.htmlparser.lexer" href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/lexer/Lexer.html" target="_blank" style="color:rgb(106,57,6);">Lexer</a> lexer)</code>            Construct a parser using the provided lexer.</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28org.htmlparser.lexer.Lexer,%20org.htmlparser.util.ParserFeedback%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class in org.htmlparser.lexer" href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/lexer/Lexer.html" target="_blank" style="color:rgb(106,57,6);">Lexer</a> lexer, <a title="interface in org.htmlparser.util" href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/util/ParserFeedback.html" target="_blank" style="color:rgb(106,57,6);">ParserFeedback</a> fb)</code>            Construct a parser using the provided lexer and feedback object.</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28java.lang.String%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class or interface in java.lang" href="http://java.sun.com/j2se/1.4.2/docs/api/java/lang/String.html" target="_blank" style="color:rgb(106,57,6);">String</a> resource)</code>            Creates a Parser object with the location of the resource (URL or file).</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28java.lang.String,%20org.htmlparser.util.ParserFeedback%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class or interface in java.lang" href="http://java.sun.com/j2se/1.4.2/docs/api/java/lang/String.html" target="_blank" style="color:rgb(106,57,6);">String</a> resource, <a title="interface in org.htmlparser.util" href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/util/ParserFeedback.html" target="_blank" style="color:rgb(106,57,6);">ParserFeedback</a> feedback)</code>            Creates a Parser object with the location of the resource (URL or file) You would typically create a DefaultHTMLParserFeedback object and pass it in.</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28java.net.URLConnection%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class or interface in java.net" href="http://java.sun.com/j2se/1.4.2/docs/api/java/net/URLConnection.html" target="_blank" style="color:rgb(106,57,6);">URLConnection</a> connection)</code>            Construct a parser using the provided URLConnection.</td></tr><tr style="background-color:rgb(238,238,238);"><td><code><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/Parser.html#Parser%28java.net.URLConnection,%20org.htmlparser.util.ParserFeedback%29" target="_blank" style="color:rgb(106,57,6);">Parser</a>(<a title="class or interface in java.net" href="http://java.sun.com/j2se/1.4.2/docs/api/java/net/URLConnection.html" target="_blank" style="color:rgb(106,57,6);">URLConnection</a> connection, <a title="interface in org.htmlparser.util" href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/util/ParserFeedback.html" target="_blank" style="color:rgb(106,57,6);">ParserFeedback</a> fb)</code>            Constructor for custom HTTP access.</td></tr></tbody></table>        对于大多数使用者来说，使用最多的是通过一个URLConnection或者一个保存有网页内容的字符串来初始化Parser，或者使用静态函数来生成一个Parser对象。ParserFeedback的代码很简单，是针对调试和跟踪分析过程的，一般不需要改变。而使用Lexer则是一个相对比较高级的话题，放到以后再讨论吧。         这里比较有趣的一点是，如果需要设置页面的编码方式的话，不使用Lexer就只有静态函数一个方法了。对于大多数中文页面来说，好像这是应该用得比较多的一个方法。 4、HtmlPaser使用Node对象保存各节点信息<img src="http://note.youdao.com/yws/res/10738/977917BD60E34D578F9EB0747420F7BB" data-media-type="image" /> （1）访问各个节点的方法 Node getParent ()：取得父节点 NodeList getChildren ()：取得子节点的列表 Node getFirstChild ()：取得第一个子节点 Node getLastChild ()：取得最后一个子节点 Node getPreviousSibling ()：取得前一个兄弟（不好意思，英文是兄弟姐妹，直译太麻烦而且不符合习惯，对不起女同胞了） Node getNextSibling ()：取得下一个兄弟节点 （2）取得Node内容的函数 String getText ()：取得文本 String toPlainTextString()：取得纯文本信息。 String toHtml () ：取得HTML信息（原始HTML） String toHtml (boolean verbatim)：取得HTML信息（原始HTML） String toString ()：取得字符串信息（原始HTML） Page getPage ()：取得这个Node对应的Page对象 int getStartPosition ()：取得这个Node在HTML页面中的起始位置 int getEndPosition ()：取得这个Node在HTML页面中的结束位置 5、使用Filter访问Node节点及其内容（1）Filter的种类 顾名思义，Filter就是对于结果进行过滤，取得需要的内容。 所有的Filter均实现了NodeFilter接口，此接口只有一个方法Boolean accept(Node node)，用于确定某个节点是否属于此Filter过滤的范围。 HTMLParser在org.htmlparser.filters包之内一共定义了16个不同的Filter，也可以分为几类。 <a href="http://www.baizeju.com/html/HTMLParser/200807/07-121.html#%E5%88%A4%E6%96%AD%E7%B1%BBFilter" target="_blank" style="color:rgb(16,138,198);">判断类Filter：</a> TagNameFilter HasAttributeFilter HasChildFilter HasParentFilter HasSiblingFilter IsEqualFilter <a href="http://www.baizeju.com/html/HTMLParser/200807/07-121.html#%E9%80%BB%E8%BE%91%E8%BF%90%E7%AE%97Filter" target="_blank" style="color:rgb(16,138,198);">逻辑运算Filter：</a> AndFilter NotFilter OrFilter XorFilter <a href="http://www.baizeju.com/html/HTMLParser/200807/07-121.html#%E5%85%B6%E4%BB%96Filter" target="_blank" style="color:rgb(16,138,198);">其他Filter：</a> NodeClassFilter StringFilter LinkStringFilter LinkRegexFilter RegexFilter CssSelectorNodeFilter 除此以外，可以自定义一些Filter，用于完成特殊需求的过滤。 （2）Filter的使用示例 以下示例用于提取HTML文件中的链接<div style="background-color:rgb(231,229,220);color:rgb(54,46,43);font-family:Consolas,'Courier New',Courier,mono,serif;"><div><div style="background-color:rgb(248,248,248);color:silver;font-family:Verdana,Geneva,Arial,Helvetica,sans-serif;font-size:9px;">[java] <a title="view plain" href="http://blog.csdn.net/jediael_lu/article/details/26396705#" target="_blank" style="color: rgb(160, 160, 160);">view plain</a><a title="copy" href="http://blog.csdn.net/jediael_lu/article/details/26396705#" target="_blank" style="color: rgb(160, 160, 160);">copy</a><a title="在CODE上查看代码片" href="https://code.csdn.net/snippets/356130" target="_blank" style="color: rgb(160, 160, 160);"><img src="http://note.youdao.com/yws/res/10737/F9100224A02B471E9B4A148E168E4281" alt="在CODE上查看代码片" width="12" height="12" data-media-type="image" /></a><a title="派生到我的代码片" href="https://code.csdn.net/snippets/356130/fork" target="_blank" style="color: rgb(160, 160, 160);"><img src="https://code.csdn.net/assets/ico_fork.svg" alt="派生到我的代码片" width="12" height="12" data-media-type="image" /></a><div></div></div></div><ol start="1" style="background-color:rgb(255,255,255);color:rgb(92,92,92);"><li style="color:inherit;">package org.ljh.search.html;  </li><li style="background-color:rgb(248,248,248);">  </li><li style="color:inherit;">import java.util.HashSet;  </li><li style="background-color:rgb(248,248,248);">import java.util.Set;  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">import org.htmlparser.Node;  </li><li style="color:inherit;">import org.htmlparser.NodeFilter;  </li><li style="background-color:rgb(248,248,248);">import org.htmlparser.Parser;  </li><li style="color:inherit;">import org.htmlparser.filters.NodeClassFilter;  </li><li style="background-color:rgb(248,248,248);">import org.htmlparser.filters.OrFilter;  </li><li style="color:inherit;">import org.htmlparser.tags.LinkTag;  </li><li style="background-color:rgb(248,248,248);">import org.htmlparser.util.NodeList;  </li><li style="color:inherit;">import org.htmlparser.util.ParserException;  </li><li style="background-color:rgb(248,248,248);">  </li><li style="color:inherit;">//本类创建用于HTML文件解释工具  </li><li style="background-color:rgb(248,248,248);">public class HtmlParserTool {  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">    // 本方法用于提取某个html文档中内嵌的链接  </li><li style="color:inherit;">    public static Set<String> extractLinks(String url, LinkFilter filter) {  </li><li style="background-color:rgb(248,248,248);">        Set<String> links = new HashSet<String>();  </li><li style="color:inherit;">        try {  </li><li style="background-color:rgb(248,248,248);">            // 1、构造一个Parser，并设置相关的属性  </li><li style="color:inherit;">            Parser parser = new Parser(url);  </li><li style="background-color:rgb(248,248,248);">            parser.setEncoding("gb2312");  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">            // 2.1、自定义一个Filter，用于过滤<Frame >标签，然后取得标签中的src属性值  </li><li style="color:inherit;">            NodeFilter frameNodeFilter = new NodeFilter() {  </li><li style="background-color:rgb(248,248,248);">                @Override  </li><li style="color:inherit;">                public boolean accept(Node node) {  </li><li style="background-color:rgb(248,248,248);">                    if (node.getText().startsWith("frame src=")) {  </li><li style="color:inherit;">                        return true;  </li><li style="background-color:rgb(248,248,248);">                    } else {  </li><li style="color:inherit;">                        return false;  </li><li style="background-color:rgb(248,248,248);">                    }  </li><li style="color:inherit;">                }  </li><li style="background-color:rgb(248,248,248);">            };  </li><li style="color:inherit;">              </li><li style="background-color:rgb(248,248,248);">            //2.2、创建第二个Filter，过滤<a>标签  </li><li style="color:inherit;">            NodeFilter aNodeFilter = new NodeClassFilter(LinkTag.class);  </li><li style="background-color:rgb(248,248,248);">              </li><li style="color:inherit;">            //2.3、净土上述2个Filter形成一个组合逻辑Filter。  </li><li style="background-color:rgb(248,248,248);">            OrFilter linkFilter = new OrFilter(frameNodeFilter, aNodeFilter);  </li><li style="color:inherit;">              </li><li style="background-color:rgb(248,248,248);">            //3、使用parser根据filter来取得所有符合条件的节点  </li><li style="color:inherit;">            NodeList nodeList = parser.extractAllNodesThatMatch(linkFilter);  </li><li style="background-color:rgb(248,248,248);">              </li><li style="color:inherit;">            //4、对取得的Node进行处理  </li><li style="background-color:rgb(248,248,248);">            for(int i = 0; i<nodeList.size();i++){  </li><li style="color:inherit;">                Node node = nodeList.elementAt(i);  </li><li style="background-color:rgb(248,248,248);">                String linkURL = "";  </li><li style="color:inherit;">                //如果链接类型为<a />  </li><li style="background-color:rgb(248,248,248);">                if(node instanceof LinkTag){  </li><li style="color:inherit;">                    LinkTag link = (LinkTag)node;  </li><li style="background-color:rgb(248,248,248);">                    linkURL= link.getLink();  </li><li style="color:inherit;">                }else{  </li><li style="background-color:rgb(248,248,248);">                    //如果类型为<frame />  </li><li style="color:inherit;">                    String nodeText = node.getText();  </li><li style="background-color:rgb(248,248,248);">                    int beginPosition = nodeText.indexOf("src=");  </li><li style="color:inherit;">                    nodeText = nodeText.substring(beginPosition);  </li><li style="background-color:rgb(248,248,248);">                    int endPosition = nodeText.indexOf(" ");  </li><li style="color:inherit;">                    if(endPosition == -1){  </li><li style="background-color:rgb(248,248,248);">                        endPosition = nodeText.indexOf(">");  </li><li style="color:inherit;">                    }  </li><li style="background-color:rgb(248,248,248);">                    linkURL = nodeText.substring(5, endPosition - 1);  </li><li style="color:inherit;">                }  </li><li style="background-color:rgb(248,248,248);">                //判断是否属于本次搜索范围的url  </li><li style="color:inherit;">                if(filter.accept(linkURL)){  </li><li style="background-color:rgb(248,248,248);">                    links.add(linkURL);  </li><li style="color:inherit;">                }  </li><li style="background-color:rgb(248,248,248);">            }  </li><li style="color:inherit;">              </li><li style="background-color:rgb(248,248,248);">        } catch (ParserException e) {  </li><li style="color:inherit;">            e.printStackTrace();  </li><li style="background-color:rgb(248,248,248);">        }  </li><li style="color:inherit;">        return links;  </li><li style="background-color:rgb(248,248,248);">    }  </li><li style="color:inherit;">}  </li></ol></div> 程序中的一些说明： （1）通过Node#getText()取得节点的String。 （2）node instanceof TagLink，即<a/>节点，其它还有很多的类似节点，如tableTag等，基本上每个常见的html标签均会对应一个tag。官方文档说明如下：<table border="1" cellpadding="2" cellspacing="0" width="100%" style="color: rgb(0, 0, 0); font-family: Simsun; font-size: 14px;"><tbody><tr><td><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/nodes/package-summary.html" target="_blank" style="color:rgb(106,57,6);">org.htmlparser.nodes</a></td><td>The nodes package has the concrete node implementations.</td></tr><tr><td><a href="http://htmlparser.sourceforge.net/javadoc/org/htmlparser/tags/package-summary.html" target="_blank" style="color:rgb(106,57,6);">org.htmlparser.tags</a></td><td>The tags package contains specific tags.</td></tr></tbody></table>因此可以通过此方法直接判断一个节点是否某个标签内容。 其中用到的LinkFilter接口定义如下：<div style="background-color:rgb(231,229,220);color:rgb(54,46,43);font-family:Consolas,'Courier New',Courier,mono,serif;"><div><div style="background-color:rgb(248,248,248);color:silver;font-family:Verdana,Geneva,Arial,Helvetica,sans-serif;font-size:9px;">[java]<div></div></div></div><ol start="1" style="background-color:rgb(255,255,255);color:rgb(92,92,92);"><li style="color:inherit;">package org.ljh.search.html;  </li><li style="background-color:rgb(248,248,248);">  </li><li style="color:inherit;">//本接口所定义的过滤器，用于判断url是否属于本次搜索范围。  </li><li style="background-color:rgb(248,248,248);">public interface LinkFilter {  </li><li style="color:inherit;">    public boolean accept(String url);  </li><li style="background-color:rgb(248,248,248);">}  </li></ol></div> 测试程序如下：<div style="background-color:rgb(231,229,220);color:rgb(54,46,43);font-family:Consolas,'Courier New',Courier,mono,serif;"><div><div style="background-color:rgb(248,248,248);color:silver;font-family:Verdana,Geneva,Arial,Helvetica,sans-serif;font-size:9px;">[java] <div></div></div></div><ol start="1" style="background-color:rgb(255,255,255);color:rgb(92,92,92);"><li style="color:inherit;">package org.ljh.search.html;  </li><li style="background-color:rgb(248,248,248);">  </li><li style="color:inherit;">import java.util.Iterator;  </li><li style="background-color:rgb(248,248,248);">import java.util.Set;  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">import org.junit.Test;  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">public class HtmlParserToolTest {  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">    @Test  </li><li style="color:inherit;">    public void testExtractLinks() {  </li><li style="background-color:rgb(248,248,248);">        String url = "http://www.baidu.com";  </li><li style="color:inherit;">        LinkFilter linkFilter = new LinkFilter(){  </li><li style="background-color:rgb(248,248,248);">            @Override  </li><li style="color:inherit;">            public boolean accept(String url) {  </li><li style="background-color:rgb(248,248,248);">                if(url.contains("baidu")){  </li><li style="color:inherit;">                    return true;  </li><li style="background-color:rgb(248,248,248);">                }else{  </li><li style="color:inherit;">                    return false;  </li><li style="background-color:rgb(248,248,248);">                }  </li><li style="color:inherit;">            }  </li><li style="background-color:rgb(248,248,248);">              </li><li style="color:inherit;">        };  </li><li style="background-color:rgb(248,248,248);">        Set<String> urlSet = HtmlParserTool.extractLinks(url, linkFilter);  </li><li style="color:inherit;">          </li><li style="background-color:rgb(248,248,248);">        Iterator<String> it = urlSet.iterator();  </li><li style="color:inherit;">        while(it.hasNext()){  </li><li style="background-color:rgb(248,248,248);">            System.out.println(it.next());  </li><li style="color:inherit;">        }  </li><li style="background-color:rgb(248,248,248);">    }  </li><li style="color:inherit;">  </li><li style="background-color:rgb(248,248,248);">}  </li></ol></div> 输出结果如下： http://www.hao123.com http://www.baidu.com/ http://www.baidu.com/duty/ http://v.baidu.com/v?ct=301989888&rn=20&pn=0&db=0&s=25&word= http://music.baidu.com http://ir.baidu.com http://www.baidu.com/gaoji/preferences.html http://news.baidu.com http://map.baidu.com http://music.baidu.com/search?fr=ps&key= http://image.baidu.com http://zhidao.baidu.com http://image.baidu.com/i?tn=baiduimage&ct=201326592&lm=-1&cl=2&nc=1&word= http://www.baidu.com/more/ http://shouji.baidu.com/baidusearch/mobisearch.html?ref=pcjg&from=1000139w http://wenku.baidu.com http://news.baidu.com/ns?cl=2&rn=20&tn=news&word= https://passport.baidu.com/v2/?login&tpl=mn&u=http%3A%2F%2Fwww.baidu.com%2F http://www.baidu.com/cache/sethelp/index.html http://zhidao.baidu.com/q?ct=17&pn=0&tn=ikaslist&rn=10&word=&fr=wwwt http://tieba.baidu.com/f?kw=&fr=wwwt http://home.baidu.com https://passport.baidu.com/v2/?reg&regType=1&tpl=mn&u=http%3A%2F%2Fwww.baidu.com%2F http://v.baidu.com http://e.baidu.com/?refer=888 ; http://tieba.baidu.com http://baike.baidu.com http://wenku.baidu.com/search?word=&lm=0&od=0 http://top.baidu.com http://map.baidu.com/m?word=&fr=ps01000</div>