Xpath如何提取HTML数据

今天就跟大家聊聊有关Xpath如何提取HTML数据,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。

10多年的新城网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。网络营销推广的优势是能够根据用户设备显示端的尺寸不同,自动调整新城建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。创新互联从事“新城网站设计”,“新城网站推广”以来,每个客户项目都认真落实执行。

1.简介

XPath是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。
相比于BeautifulSoup,Xpath在提取数据时会更加的方便。

2. 安装

在Python中很多库都有提供Xpath的功能,但是最基本的还是lxml这个库,效率最高。在之前BeautifulSoup章节中我们也介绍到了lxml是如何安装的。

pip install lxml

3. 语法

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

我们将用以下的HTML文档来进行演示:

html_doc = '''
    

        
            Everyday Italian
            Giada De Laurentiis
            2005
            30.00
        

        
            Harry Potter
            J K. Rowling
            2005
            29.99
        

        
            XQuery Kick Start
            James McGovern
            Per Bothner
            Kurt Cagle
            James Linn
            Vaidyanathan Nagarajan
            2003
            49.99
        

        
            Learning XML
            Erik T. Ray
            2003
            39.95
        

    '''

导入语句,并生成HTML的DOM树:

from lxml import etree

page = etree.HTML(html_doc)

3.1. 路径查找

Xpath如何提取HTML数据

查找当前节点的子节点

In [1]: page.xpath('head')
Out[1]: []

从根节点进行查找

In [2]: page.xpath('/html')
Out[2]: []

从整个文档中所有节点查找

In [3]: page.xpath('//book')
Out[3]:
[]

选取当前节点的父节点

In [4]: page.xpath('//book')[0].xpath('..')
Out[4]: []

选取属性

In [5]: page.xpath('//book')[0].xpath('@category')
Out[5]: ['COOKING']

3.2. 节点查找

Xpath如何提取HTML数据

nodename[1]

选取第一个元素。

nodename[last()]

选取最后一个元素。

nodename[last()-1]

选取倒数第二个元素。

nodename[position()<3]

选取前两个子元素。

nodename[@lang]

选取拥有名为 lang 的属性的元素。

nodename[@lang='eng']

选取拥有lang属性,且值为 eng 的元素。

选取第二个book元素

In [1]: page.xpath('//book[2]/@category')
Out[1]: ['CHILDREN']

选取倒数第三个book元素

In [2]: page.xpath('//book[last()-2]/@category')
Out[2]: ['CHILDREN']

选取第二个元素开始的所有元素

In [3]: page.xpath('//book[position() > 1]/@category')
Out[3]: ['CHILDREN', 'WEB', 'WEB']

选取category属性为WEB的的元素

In [4]: page.xpath('//book[@category="WEB"]/@category')
Out[4]: ['WEB', 'WEB']

3.3. 未知节点

Xpath如何提取HTML数据

匹配第一个book元素下的所有元素

In [1]: page.xpath('//book[1]/*')
Out[1]:
[,
 ,
 ,
 ]

3.4. 获取节点中的文本

用text()获取某个节点下的文本

In [1]: page.xpath('//book[1]/author/text()')
Out[1]: ['Giada De Laurentiis']

如果这个节点下有多个文本,则只能取到一段。

用string()获取某个节点下所有的文本

In [2]: page.xpath('string(//book[1])')
Out[2]: '\n            Everyday Italian\n            Giada De Laurentiis\n

3.5. 选取多个路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

In [1]: page.xpath('//book[1]/title/text() | //book[1]/author/text()')
Out[1]: ['Everyday Italian', 'Giada De Laurentiis']

看完上述内容,你们对Xpath如何提取HTML数据有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注创新互联行业资讯频道,感谢大家的支持。


分享文章:Xpath如何提取HTML数据
文章路径:http://myzitong.com/article/ijggpp.html