Python爬虫入门（8）：Beautiful Soup的用法
- Python爬虫入门（1）：综述
- Python爬虫入门（2）：爬虫基础了解
- Python爬虫入门（3）：Urllib库的基本使用
- Python爬虫入门（4）：Urllib库的高级用法
- Python爬虫入门（5）：URLError异常处理
- Python爬虫入门（6）：Cookie的使用
- Python爬虫入门（7）：正则表达式
- Python爬虫入门（8）：Beautiful Soup的用法
上一节我们介绍了正则表达式，它的内容其实还是蛮多的，如果一个正则匹配稍有差池，那可能程序就处在永久的循环之中，而且有的小伙伴们也对写正则表 达式的写法用得不熟练，没关系，我们还有一个更强大的工具，叫Beautiful Soup，有了它我们可以很方便地提取出HTML或XML标签中的内容，实在是方便，这一节就让我们一起来感受一下Beautiful Soup的强大吧。
1. Beautiful Soup的简介
简单来说，Beautiful Soup是python的一个库，最主要的功能是从网页抓取数据。官方解释如下：
Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能。它是一个工具箱，通过解析文档为用户提供需要抓取的数据，因为简单，所以不需要多少代码就可以写出一个完整的应用程序。
Beautiful Soup自动将输入文档转换为Unicode编码，输出文档转换为utf-8编码。你不需要考虑编码方式，除非文档没有指定一个编码方式，这时，Beautiful Soup就不能自动识别编码方式了。然后，你仅仅需要说明一下原始编码方式就可以了。
Beautiful Soup已成为和lxml、html6lib一样出色的python解释器，为用户灵活地提供不同的解析策略或强劲的速度。
废话不多说，我们来试一下吧~
2. Beautiful Soup 安装
Beautiful Soup 3 目前已经停止开发，推荐在现在的项目中使用Beautiful Soup 4，不过它已经被移植到BS4了，也就是说导入时我们需要 import bs4 。所以这里我们用的版本是 Beautiful Soup 4.3.2 (简称BS4)，另外据说 BS4 对 Python3 的支持不够好，不过我用的是 Python2.7.7，如果有小伙伴用的是 Python3 版本，可以考虑下载 BS3 版本。
如果你用的是新版的Debain或Ubuntu,那么可以通过系统的软件包管理来安装，不过它不是最新版本，目前是4.2.1版本
| 1 | sudo apt–get install Python–bs4 |
如果想安装最新的版本，请直接下载安装包来手动安装，也是十分方便的方法。在这里我安装的是 Beautiful Soup 4.3.2
Beautiful Soup 3.2.1Beautiful Soup 4.3.2
下载完成之后解压
运行下面的命令即可完成安装
| 1 | sudo python setup.py install |
如下图所示，证明安装成功了
然后需要安装 lxml
| 1 | sudo apt–get install Python–lxml |
Beautiful Soup支持Python标准库中的HTML解析器,还支持一些第三方的解析器，如果我们不安装它，则 Python 会使用 Python默认的解析器，lxml 解析器更加强大，速度更快，推荐安装。
3. 开启Beautiful Soup 之旅
在这里先分享官方文档链接，不过内容是有些多，也不够条理，在此本文章做一下整理方便大家参考。
官方文档
4. 创建 Beautiful Soup 对象
首先必须要导入 bs4 库
| 1 | from bs4 import BeautifulSoup |
我们创建一个字符串，后面的例子我们便会用它来演示
| 1234567891011 | html = \”\”\” The Dormouse\’s story Once upon a time there were three little sisters; and their names were ,Lacie andTillie;and they lived at the bottom of a well.… \”\”\” |
创建 beautifulsoup 对象
| 1 | soup = BeautifulSoup(html) |
另外，我们还可以用本地 HTML 文件来创建对象，例如
| 1 | soup = BeautifulSoup(open(\’index.html\’)) |
上面这句代码便是将本地 index.html 文件打开，用它来创建 soup 对象
下面我们来打印一下 soup 对象的内容，格式化输出
| 1 | print soup.prettify() |