菜鸟学Python:多线程的探究
admin
2023-07-30 20:42:00
0

一、背景

  最近老爱提及背景这两个字,似乎没有背景就做不了事情。所以,工作上所有的事情都是有一个出发点,然后N多人会质疑你这个出发点对不对,出发点对了,也继续质疑你做的方法对不对…

  言归正传,这段代码的背景是这样的:有一个很长的文本,里面均是图片的url,想将每个图片的大小从http header上抓出来,写入到另外一个文件。简单来说就想得到3W多张图片各张图片的大小,然后再统计平均值。

  使用单线程下载,由于http访问的时候使用的是TCP三次握手,异常慢,可以利用多线程进行下载,亲测速度快了接近5倍。

二、代码

#!/usr/bin/python
import os,sys,time,urllib2
import threading

def get(url):
  #使用urllib2的库对url进行访问
  r=urllib2.urlopen(url)
  #读取url的页面
  content=r.read()
  #从header获得content-length
  a=dict(r.headers).get(\'content-length\', 0)
  output = open(\'/home/adonishe/httprequest_new/output.txt\', \'a+\')
  output.write(a+\'\\n\')
  #print a
  #file(fname,\'w\').write(content)

def main():
  urllist=open(\"/home/abc/httprequest.txt\", \"r\")
  for i in urllist:
    url=i
    #name=url.replace(\'/\',\'_\')
    #print url,name
    while threading.activeCount()>300:
      time.sleep(0.1)
    t=threading.Thread(target=get,args=([url,]))
    t.start()


if __name__==\'__main__\':
  main()

总结

  使用Python的多线程不是很麻烦的事情,步骤:

  1. import threading
  2. t=threading.Thread(target=get,args=([url,]))
  3. t.start()

  作为Python初入门者,可以考虑多用这类的方法。

相关内容

热门资讯

500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
python绘图库Matplo... 本文简单介绍了Python绘图库Matplotlib的安装,简介如下: matplotlib是pyt...
Prometheus+Graf... 一,Prometheus概述 1,什么是Prometheus?Prometheus是最初在Sound...