下面所说的都是针对python2.7
复制代码 代码如下:
#coding:utf-8
#chardet 需要下载安装
import chardet
#抓取网页html
line = \”http://www.***.com\”
html_1 = urllib2.urlopen(line,timeout=120).read()
#print html_1
encoding_dict = chardet.detect(html_1)
#print encoding
web_encoding = encoding_dict[\’encoding\’]
if web_encoding == \’utf-8\’ or web_encoding == \’UTF-8\’:
html = html_1
else :
html = html_1.decode(\’gbk\’,\’ignore\’).encode(\’utf-8\’)
#有以上处理,整个html就不会是乱码。
上一篇:python实现博客文章爬虫示例
下一篇:python抓取网页内容示例分享