Python中利用xpath解析HTML的方法

r囧r小猫 2024-03-22 23:01 72阅读 0赞

![e2e05429b26252138b6380ae6fc71b61.jpeg][]

本文主要介绍了Python中利用xpath解析HTML的方法，利用其lxml.html的xpath对html进行分析，获取抓取信息，具有一定的参考价值，感兴趣的小伙伴们可以参考一下

在进行网页抓取的时候，分析定位html节点是获取抓取信息的关键，目前我用的是lxml模块(用来分析XML文档结构的，当然也能分析html结构)， 利用其lxml.html的xpath对html进行分析，获取抓取信息。

首先，我们需要安装一个支持xpath的python库。目前在libxml2的网站上被推荐的python binding是lxml，也有beautifulsoup，不嫌麻烦的话还可以自己用正则表达式去构建，本文以lxml为例讲解。

假设有如下的HTML文档:

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 </td> 
 <td> <code>&lt;</code><code>html</code><code>&gt;</code> <code>&nbsp;</code><code>&lt;</code><code>body</code><code>&gt;</code> <code>&nbsp;&nbsp;</code><code>&lt;</code><code>form</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>div</code> <code>id</code><code>=</code><code>'leftmenu'</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>h3</code><code>&gt;text&lt;/</code><code>h3</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>ul</code> <code>id</code><code>=</code><code>'china'</code><code>&gt;</code><code>&lt;!-- first location --&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>li</code><code>&gt;...&lt;/</code><code>li</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>li</code><code>&gt;...&lt;/</code><code>li</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>......</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;/</code><code>ul</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>ul</code> <code>id</code><code>=</code><code>'england'</code><code>&gt;</code><code>&lt;!-- second location--&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>li</code><code>&gt;...&lt;/</code><code>li</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;</code><code>li</code><code>&gt;...&lt;/</code><code>li</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;</code><code>......</code> <code>&nbsp;&nbsp;&nbsp;&nbsp;</code><code>&lt;/</code><code>ul</code><code>&gt;</code> <code>&nbsp;&nbsp;&nbsp;</code><code>&lt;/</code><code>div</code><code>&gt;</code> <code>&nbsp;&nbsp;</code><code>&lt;/</code><code>form</code><code>&gt;</code> <code>&nbsp;</code><code>&lt;/</code><code>body</code><code>&gt;</code> <code>&lt;/</code><code>html</code><code>&gt;</code> </td> 
 </tr> 
 </tbody> 
</table>

直接使用lxml处理：

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 </td> 
 <td> <code>import</code> <code>codecs</code> <code>from</code> <code>lxml </code><code>import</code> <code>etree</code> <code>f</code><code>=</code><code>codecs.</code><code>open</code><code>(</code><code>"ceshi.html"</code><code>,</code><code>"r"</code><code>,</code><code>"utf-8"</code><code>)</code> <code>content</code><code>=</code><code>f.read()</code> <code>f.close()</code> <code>tree</code><code>=</code><code>etree.HTML(content)</code> </td> 
 </tr> 
 </tbody> 
</table>

etree提供了HTML这个解析函数，现在我们可以直接对HTML使用xpath了，是不是有点小激动，现在就尝试下吧。

在使用xpath之前我们先来看看作为对照的jQuery和RE。

在jQuery里要处理这种东西就很简单，特别是假如那个ul节点有id的话（比如是<ul id='china'>）：

<table> 
 <tbody> 
 <tr> 
 <td> 1 </td> 
 <td> <code>$(</code><code>"#china"</code><code>).each(</code><code>function</code><code>(){...});</code> </td> 
 </tr> 
 </tbody> 
</table>

具体到此处是：

代码如下:

$("\#leftmenu").children("h3:contains('text')").next("ul").each(function()\{...\});

找到id为leftmenu的节点，在其下找到一个内容包含为”text”的h3节点，再取其接下来的一个ul节点。

在python里要是用RE来处理就略麻烦一些：

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 4 5 6 </td> 
 <td> <code>block_pattern</code><code>=</code><code>re.</code><code>compile</code><code>(u</code><code>"&lt;h3&gt;档案&lt;/h3&gt;(.*?)&lt;h3&gt;"</code><code>, re.I | re.S)</code> <code>m</code><code>=</code><code>block_pattern.findall(content)</code> <code>item_pattern</code><code>=</code><code>re.</code><code>compile</code><code>(u</code><code>"&lt;li&gt;(.*?)&lt;/li&gt;"</code><code>, re.I | re.S)</code> <code>items</code><code>=</code><code>item_pattern.findall(m[</code><code>0</code><code>])</code> <code>for</code> <code>i </code><code>in</code> <code>items:</code> <code>&nbsp;&nbsp;</code><code>print</code> <code>i</code> </td> 
 </tr> 
 </tbody> 
</table>

那么用xpath要怎么做呢？其实跟jQuery是差不多的：

<table> 
 <tbody> 
 <tr> 
 <td> 1 </td> 
 <td> <code>nodes</code><code>=</code><code>tree.xpath(</code><code>"/descendant::ul[@id='china']"</code><code>)</code> </td> 
 </tr> 
 </tbody> 
</table>

当然，现在没有id的话也就只能用类似于jQuery的方法了。完整的xpath应该是这样写的（注意，原文件中的TAG有大小写的情况，但是在XPATH里只能用小写）：

代码如下:

nodes=tree.xpath(u"/html/body/form/div\[@id='leftmenu'\]/h3\[text()='text'\]/following-sibling::ul\[1\]")

更简单的方法就是像jQuery那样直接根据id定位：

<table> 
 <tbody> 
 <tr> 
 <td> 1 </td> 
 <td> <code>nodes</code><code>=</code><code>tree.xpath(u</code><code>"//div[@id='leftmenu']/h3[text()='text']/following-sibling::ul[1]"</code><code>)</code> </td> 
 </tr> 
 </tbody> 
</table>

这两种方法返回的结果中，nodes\[0\]就是那个“text”的h3节点后面紧跟的第一个ul节点,这样就可以列出后面所有的ul节点内容了。

如果ul节点下面还有其他的节点，我们要找到更深节点的内容，如下的循环就是把这些节点的文本内容列出：

<table> 
 <tbody> 
 <tr> 
 <td> 1 2 3 </td> 
 <td> <code>nodes</code><code>=</code><code>nodes[</code><code>0</code><code>].xpath(</code><code>"li/a"</code><code>)</code> <code>for</code> <code>n </code><code>in</code> <code>nodes:</code> <code>&nbsp;&nbsp;</code><code>print</code> <code>n.text</code> </td> 
 </tr> 
 </tbody> 
</table>

对比三种方法应该可以看出xpath和jQuery对于页面的解析都是基于XML的语义进行，而RE则纯粹是基于plain text。RE对付简单的页面是没有问题，如果页面结构复杂度较高的时候（比如一堆的DIV来回嵌套之类），设计一个恰当的RE pattern可能会远比写一个xpath要复杂。特别是目前主流的基于CSS的页面设计方式，其中大部分关键节点都会有id――对于使用jQuery的页面来说则更是如此，这时xpath相比RE就有了决定性的优势。

**附录：基本XPATH语法介绍，详细请参考XPath的官方文档**

XPATH基本上是用一种类似目录树的方法来描述在XML文档中的路径。比如用“/”来作为上下层级间的分隔。第一个“/”表示文档的根节点（注意，不是指文档最外层的tag节点，而是指文档本身）。比如对于一个HTML文件来说，最外层的节点应该是”/html”。

同样的，“..”和“.”分别被用来表示父节点和本节点。

XPATH返回的不一定就是唯一的节点，而是符合条件的所有节点。比如在HTML文档里使用“/html/head/scrpt”就会把head里的所有script节点都取出来。

为了缩小定位范围，往往还需要增加过滤条件。过滤的方法就是用“\[”“\]”把过滤条件加上。比如在HTML文档里使用“/html/body/div\[@id='main'\]”，即可取出body里id为main的div节点。

其中@id表示属性id，类似的还可以使用如@name, @value, @href, @src, @class….

而 函数text()的意思则是取得节点包含的文本。比如：<div>helloworld< /div>中，用”div\[text()='hello'\]“即可取得这个div，而world则是p的text()。

函数position()的意思是取得节点的位置。比如“li\[position()=2\]”表示取得第二个li节点，它也可以被省略为“li\[2\]”。

不过要注意的是数字定位和过滤 条件的顺序。比如“ul/li\[5\]\[@name='hello'\]”表示取ul下第五项li，并且其name必须是hello，否则返回空。而如果用 “ul/li\[@name='hello'\]\[5\]”的意思就不同，它表示寻找ul下第五个name为”hello“的li节点。

此外，“\*”可以代替所有的节点名，比如用”/html/body/\*/span”可以取出body下第二级的所有span，而不管它上一级是div还是p或是其它什么东东。

而 “descendant::”前缀可以指代任意多层的中间节点，它也可以被省略成一个“/”。比如在整个HTML文档中查找id为“leftmenu”的 div，可以用“/descendant::div\[@id='leftmenu'\]”，也可以简单地使用“ //div\[@id='leftmenu'\]”。

至于“following-sibling::”前缀就如其名所说，表示同一层的下一个节点。”following-sibling::\*”就是任意下一个节点，而“following-sibling::ul”就是下一个ul节点。

以上就是本文的全部内容，希望对大家的学习有所帮助。

转自：[微点阅读][Link 1] [https://www.weidianyuedu.com][https_www.weidianyuedu.com]

[e2e05429b26252138b6380ae6fc71b61.jpeg]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/e3dcedbcf5014e27b0ee9ebdbccf2f3d.png
[Link 1]: https://m.weidianyuedu.com/
[https_www.weidianyuedu.com]: https://www.weidianyuedu.com