Python读取网页并获取某节点
admin
2023-07-30 20:57:35
0

环境:python3.5.1

Beautiful Soup

Beautiful Soup是python的一个库,主要用于从网页抓取数据。Beautiful Soup自动将输入文档转换为Unicode编码,输出文档转换为utf-8编码。你不需要考虑编码方式,除非文档没有指定一个编码方式,这时,Beautiful Soup就不能自动识别编码方式了。然后,你仅仅需要说明一下原始编码方式就可以了。
Beautiful Soup已经成为和xml,html6lib一样出色的python解释器,为用户灵活提供不同的解析策略或强劲的速度。

由于Beautiful Soup不是python内置库,所以需要下载安装

pip install beautifulsoup4

代码使用:

from urllib.request import urlopen
from urllib.error import URLError
from bs4 import BeautifulSoup

def getTitle(url):
    try:
        html = urlopen(url)
    except URLError as e:
        print(e)
        return None
    try:
        bsObj = BeautifulSoup(html, \"html.parser\")
        title = bsObj.body.h1
    except AttributeError as e:
        return None
    return title

title = getTitle(\"http://www.xxxxxxx.com\")
if title == None:
    print(\"Title could not be found\")
else:
    print(title)

我们经常会将自己写的网络爬虫开启,然后信心满满地去休息,等第二天打开发现,爬虫早已停止运行,我门需要的数据并没有成功获取,因为程序已经中断退出了。在爬虫执行时,某些html可能不存在了,或者发生了变化,html中某个节点不存在了。 对于这些情况,爬虫会发生异常并退出,为了让爬虫继续工作,我们需要捕获异常,如以上代码。

注意,当html中没有某一节点,如
节点,我门使用bsObj.pre来获取该节点时,并不会发生异常,而是返回\"None\".
 但是当我门要获取
的下一节点

时,bsObj.pre.p时会出现异常:AttributeError。

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
python清除字符串里非数字... 本文实例讲述了python清除字符串里非数字字符的方法。分享给大家供大家参考。具体如下: impor...