BeautifulSoup和json库在爬虫项目中的应用
admin
2023-07-30 21:25:09
0次

在重构人人贷爬虫的过程中，主要要爬取的数据是以json数据的格式呈现的，要提取的html内容如下：

在之前的版本中，应用了re进行简单粗暴的正则匹配，效率较低，因此在重构过程中，将使用BS4对这个标签进行提取，之后应用json库将string转为dict，便于后面的调用和输出。

下面简单介绍一下应用到的方法：

# ! /usr/bin/env python 
# -*- coding:utf-8 -*-

__author__ = \'Gao Yuhao\'

# 统一 Python 2 和 3 的语法
try:
    input = raw_input
except:
    pass

import requests
from bs4 import BeartifulSoup
import json

# 确定测试爬虫页面
page_index = input(\'Pls input the page_index you want to try:\')
surl = \'http://www.we.com/lend/detailPage.action?loanId=\' + page_index

# 使用requests获取网页
req = requests.get(url = surl)
html = req.text.encode(\'utf-8\')

# 使用BS提取内容
soup = BeautifulSoup(html)
res = soup(\'script\',id = \'credit-info-data\')[0].text

# 使用json将其转换为dict
res_json = json.loads(res)
print json.dumps(res_json, indent = 4)

上一篇：Scikit-learn使用总结

下一篇：Python的鸭子类型

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联，打开，勾选电子书文件选项就可以了。
500 行 Python 代码... 语法分析器描述了一个句子的语法结构，用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义，以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完，导致很多软件没法再运行。经过仔细检查发现是C:\Program...
65536是2的几次方 计算2... 65536是2的16次方：65536=2⁶ 65536是256的2次方：65536=256 6553...
小程序支付时提示：appid和... [Q]小程序支付时提示：appid和mch_id不匹配 [A]小程序和微信支付没有进行关联，访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈，微信小程序里面的音频播放是没有进度条的，但最近有个项目呢，客户要求音频要有进度条控制，所...
Apache Doris 2.... 亲爱的社区小伙伴们，我们很高兴地向大家宣布，Apache Doris 2.0.0 版本已于...
python清除字符串里非数字... 本文实例讲述了python清除字符串里非数字字符的方法。分享给大家供大家参考。具体如下： impor...