使用BeautifulSoup爬虫程序获取百度搜索结果的标题和url示例
admin
2023-07-31 02:01:23
0次

熟悉Java的jsoup包的话，对于Python的BeautifulSoup库应该很容易上手。

复制代码 代码如下:
#coding: utf-8
import sys
import urllib
import urllib2
from BeautifulSoup import BeautifulSoup

question_word = \”吃货 程序员\”
url = \”http://www.baidu.com/s?wd=\” + urllib.quote(question_word.decode(sys.stdin.encoding).encode(\’gbk\’))
htmlpage = urllib2.urlopen(url).read()
soup = BeautifulSoup(htmlpage)
print len(soup.findAll(\”table\”, {\”class\”: \”result\”}))
for result_table in soup.findAll(\”table\”, {\”class\”: \”result\”}):
    a_click = result_table.find(\”a\”)
    print \”—–标题—-\\n\” + a_click.renderContents()#标题
    print \”—-链接—-\\n\” + str(a_click.get(\”href\”))#链接
    print \”—-描述—-\\n\” + result_table.find(\”div\”, {\”class\”: \”c-abstract\”}).renderContents()#描述
    print

BeautifulSoup 爬虫程序 百度搜索结果

上一篇：python实现人人网登录示例分享

下一篇：python的urllib模块显示下载进度示例

相关内容

热门资讯

500 行 Python 代码... 语法分析器描述了一个句子的语法结构，用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义，以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
65536是2的几次方 计算2... 65536是2的16次方：65536=2⁶ 65536是256的2次方：65536=256 6553...
Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联，打开，勾选电子书文件选项就可以了。
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完，导致很多软件没法再运行。经过仔细检查发现是C:\Program...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
小程序支付时提示：appid和... [Q]小程序支付时提示：appid和mch_id不匹配 [A]小程序和微信支付没有进行关联，访问“小...
微信小程序使用slider实现... 众所周知哈，微信小程序里面的音频播放是没有进度条的，但最近有个项目呢，客户要求音频要有进度条控制，所...
python绘图库Matplo... 本文简单介绍了Python绘图库Matplotlib的安装，简介如下： matplotlib是pyt...
Prometheus+Graf... 一，Prometheus概述 1，什么是Prometheus？Prometheus是最初在Sound...