python妹子图简单爬虫实例
admin
2023-07-31 02:27:09
0

本文实例讲述了python妹子图简单爬虫实现方法。分享给大家供大家参考。具体如下:

#!/usr/bin/env python
#coding: utf-8
import urllib
import urllib2
import os
import re
import sys
#显示下载进度
def schedule(a,b,c):
  \'\'\'\'\'
  a:已经下载的数据块
  b:数据块的大小
  c:远程文件的大小
  \'\'\'
  per = 100.0 * a * b / c
  if per > 100 :
    per = 100
  print \'%.2f%%\' % per
#获取html源码
def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html
#下载图片
def downloadImg(html, num, foldername):
  picpath = \'%s\' % (foldername) #下载到的本地目录
  if not os.path.exists(picpath): #路径不存在时创建一个
    os.makedirs(picpath)
  target = picpath+\'/%s.jpg\' % num
  myItems = re.findall(\'

\".*?\"

\',html,re.S) print \'Downloading image to location: \' + target urllib.urlretrieve(myItems[0], target, schedule) #正则匹配分页 def findPage(html): myItems = re.findall(\'(\\d*)\', html, re.S) return myItems.pop() #正则匹配列表 def findList(html): myItems = re.findall(\'

.*?

\', html, re.S) return myItems #总下载 def totalDownload(modelUrl): listHtml5 = getHtml(modelUrl) listContent = findList(listHtml) for list in listContent: html = getHtml(\'http://www.mzitu.com/\' + str(list[0])) totalNum = findPage(html) for num in range(1, int(totalNum)+1): if num == 1: url = \'http://www.mzitu.com/\' + str(list[0]) html5 = getHtml(url) downloadImg(html5, str(num), str(list[1])) else: url = \'http://www.mzitu.com/\' + str(list[0]) + \'/\'+str(num) html5 = getHtml(url) downloadImg(html5, str(num), str(list[1])) if __name__ == \'__main__\': listHtml = getHtml(\'http://www.mzitu.com/model\') #这是其中一个模块的url,可以添加不同的模块url从而达到整站爬取。 for model in range(1, int(findPage(listHtml))+1): if model == 1: modelUrl = \'http://www.mzitu.com/model\' totalDownload(modelUrl) else: modelUrl = \'http://www.mzitu.com/model/page/\' + str(model) totalDownload(modelUrl) print \"Download has finished.\"

希望本文所述对大家的Python程序设计有所帮助。

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
项目管理和工程管理的区别 项目管理 项目管理,顾名思义就是专注于开发和完成项目的管理,以实现目标并满足成功标准和项目要求。 工...