Python爬虫网页，解析工具lxml.html（一）

狭义上讲，爬虫只负责抓取，也就是下载网页。而实际上，爬虫还要负责从下载的网页中提取我们想要的数据，即对非结构化的数据（网页）进行解析提取出结构化的数据（有用数据）。比如，我们要抓取了一个新闻页面的网页（html）下来，但我们想要的是这个网页中关于新闻的结构化数据：新闻的标题、新闻的发布时间、新闻的正文等。

十年的汉中网站建设经验，针对设计、前端、开发、售后、文案、推广等六对一服务，响应快，48小时及时工作处理。成都全网营销的优势是能够根据用户设备显示端的尺寸不同，自动调整汉中建站的显示方式，使网站能够适用不同显示终端，在浏览器中调整网站的宽度，无论在任何一种浏览器上浏览网站，都能展现优雅布局与设计，从而大程度地提升浏览体验。成都创新互联公司从事“汉中网站设计”,“汉中网站推广”以来，每个客户项目都认真落实执行。

所以说，网页下载下来只是第一步，还有重要的一步就是数据提取。不同的爬虫想要的数据不一样，提取的数据也就不一样，但提取方法都是类似的。

最简单的提取数据的方法，就是使用正则表达式，此种方法简单，提取的逻辑也不能复杂，不然写出的正则表达式就晦涩难懂，甚至不能提取复杂的数据结构。

经过多年的使用经验，选择了lxml和xpath来解析网页提取结构化数据。顺便说一下 BeautifulSoup，它也是一个很棒的解析HTML的工具，可以使用多个解析器，比如Python标准库的parser，但是速度比较慢，也可以使用lxml作为解析器，但是它的使用方法、API跟lxml不太一样。使用下来，还是lxml的API更舒服。

lxml 对C语言库 libxml2和 libxslt进行绑定，提供了Pythonic的API，它有一些主要特点：

支持标准的XML
支持（损坏）的HTML
非常快的解析速度
Pythonic的API更易于使用
使用Python的unicode字符串
内存安全（没有段错误）
不需要手动管理内存

总结为一句话就是，C语言的速度和Python的简易相结合的神器。

lxml有两大部分，分别支持XML和HTML的解析：

lxml.etree 解析XML
lxml.html 解析html

lxml.etree可以用来解析RSS feed，它就是一个XML格式的文档。然而爬虫抓取的绝大部分都是html网页，所以，我们这里主要讲述lxml.html解析网页的方法。

lxml.html 从html字符串生成文档树结构

我们下载得到的网页就是一串html字符串，如何把它输入给lxml.html模块，从而生成html文档的树结构呢？
该模块提供了几种不同的方法：

parse(filename_url_or_file):
输入的是一个文件名、URL或文件对象（有read()方法）。
document_fromstring(string):
输入的是一个html的字符串，创建一个HTML文档树结构，它的根节点就是, 和子节点。
fragment_fromstring(string, create_parent=False):
返回输入字符串的HTML片段。这个片段壁纸只含有一个element（元素），也就是单一节点，除非给出了create_parent 参数，否则会报错。
fragments_fromstring(string):
返回包含输入字符串中所有片段的列表。
fromstring(string):
返回值依据输入字符串而定，如果输入看起来像是一个文档，则返回 document_fromstring(string) ，如果是一个单一片段，则返回 fragment_fromstring(string) 。

下面我们通过具体示例来说明上面几个方法的不同。

document_fromstring 的使用方法

In [1]: import lxml.html  as lh
In [2]: z = lh.document_fromstring('abcxyz')
# 可以看到，它自动加了根节点
In [3]: z
Out[3]: 
In [4]: z.tag
Out[4]: 'html'
# 还加了节点
In [5]: z.getchildren()
Out[5]: []
# 把字符串的两个节点放在了里面
In [6]: z.getchildren()[0].getchildren()
Out[6]: [, ]

fragment_fromstring 的使用

In [11]: z = lh.fragment_fromstring(‘abc
xyz’)
---------------------------------------------------------------------------
ParserError                               Traceback (most recent call last)
 in ()
----> 1 z = lh.fragment_fromstring(‘abc
xyz’)
~/.virtualenvs/py3.6/lib/python3.6/site-packages/lxml/html/__init__.py in fragment_fromstring(html, create_parent, base_url, parser, **kw)
    850         raise etree.ParserError(
    851             “Multiple elements found (%s)”
--> 852             % ‘, ‘.join([_element_name(e) for e in elements]))
    853     el = elements[0]
    854     if el.tail and el.tail.strip():
ParserError: Multiple elements found (div, div)
# 可以看到，输入是两个节点（element）时就会报错
# 如果加上 create_parent 参数，就没问题了
In [12]: z = lh.fragment_fromstring('abc
xyz', create_parent='p')
In [13]: z.tag
Out[13]: 'p'
In [14]: z.getchildren()
Out[14]: [, ]

fragments_fromstring 的使用

# 输入字符串含有一个节点，则返回包含这一个节点的列表
In [17]: lh.fragments_fromstring('abc')
Out[17]: []
# 输入字符串含有多个节点，则返回包含这多个节点的列表
In [18]: lh.fragments_fromstring('abc
xyz')
Out[18]: [, ]

fromstring 的使用

In [27]: z = lh.fromstring('abc
xyz')
In [28]: z
Out[28]: 
In [29]: z.getchildren()
Out[29]: [, ]
In [30]: type(z)
Out[30]: lxml.html.HtmlElement

这里，fromstring输入的如果是多个节点，它会给加一个父节点并返回。但是像html网页都是从节点开始的，我们使用fromstring() 和 document_fromstring() 都可以得到完整的网页结构。

从上面代码中我们可以看到，那几个函数返回的都是HtmlElement对象，也就是说，我们已经学会了如何从html字符串得到HtmlElement的对象，下一节我们将学习如何操作HtmlElement对象，从中提取我们感兴趣的数据。