打开浏览器,输入地址,按下回车,打开了页面。于是一个HTTP请求(request)就由客户端发送到服务器,服务器处理请求,返回响应(response)内容。
我们每天都在浏览网页,发送大大小小的请求给服务器。有时候,服务器接到了请求,会发现他也需要给另外的服务器发送请求,或者服务器也需要做另外一些事情,于是最初们发送的请求就被阻塞了,也就是要等待服务器完成其他的事情。
更多的时候,服务器做的额外事情,并不需要客户端等待,这时候就可以把这些额外的事情异步去做。从事异步任务的工具有很多。主要原理还是处理通知消息,针对通知消息通常采取是队列结构。生产和消费消息进行通信和业务实现。
上述异步任务的实现,可以抽象为生产者消费模型。如同一个餐馆,厨师在做饭,吃货在吃饭。如果厨师做了很多,暂时卖不完,厨师就会休息;如果客户很多,厨师马不停蹄的忙碌,客户则需要慢慢等待。实现生产者和消费者的方式用很多,下面使用Python标准库Queue写个小例子:
| 1234567891011121314151617181920212223242526272829303132 | import randomimport timefrom Queue import Queuefrom threading import Thread queue = Queue(10) class Producer(Thread): def run(self): while True: elem = random.randrange(9) queue.put(elem) print \”厨师 {} 做了 {} 饭 — 还剩 {} 饭没卖完\”.format(self.name, elem, queue.qsize()) time.sleep(random.random()) class Consumer(Thread): def run(self): while True: elem = queue.get() print \”吃货{} 吃了 {} 饭 — 还有 {} 饭可以吃\”.format(self.name, elem, queue.qsize()) time.sleep(random.random()) def main(): for i in range(3): p = Producer() p.start() for i in range(2): c = Consumer() c.start() if __name__ == \’__main__\’: main() |
大概输出如下:
| 12345678910111213141516 | 厨师 Thread–1 做了 1 饭 —– 还剩 1 饭没卖完厨师 Thread–2 做了 8 饭 —– 还剩 2 饭没卖完厨师 Thread–3 做了 3 饭 —– 还剩 3 饭没卖完吃货Thread–4 吃了 1 饭 —– 还有 2 饭可以吃吃货Thread–5 吃了 8 饭 —– 还有 1 饭可以吃吃货Thread–4 吃了 3 饭 —– 还有 0 饭可以吃厨师 Thread–1 做了 0 饭 —– 还剩 1 饭没卖完厨师 Thread–2 做了 0 饭 —– 还剩 2 饭没卖完厨师 Thread–1 做了 1 饭 —– 还剩 3 饭没卖完厨师 Thread–1 做了 1 饭 —– 还剩 4 饭没卖完吃货Thread–4 吃了 0 饭 —– 还有 3 饭可以吃厨师 Thread–3 做了 3 饭 —– 还剩 4 饭没卖完吃货Thread–5 吃了 0 饭 —– 还有 3 饭可以吃吃货Thread–5 吃了 1 饭 —– 还有 2 饭可以吃厨师 Thread–2 做了 8 饭 —– 还剩 3 饭没卖完厨师 Thread–2 做了 8 饭 —– 还剩 4 饭没卖完 |
Python内置了一个好用的队列结构。我们也可以是用redis实现类似的操作。并做一个简单的异步任务。
Redis提供了两种方式来作消息队列。一个是使用生产者消费模式模式,另外一个方法就是发布订阅者模式。前者会让一个或者多个客户端监听消息队列,一旦消息到达,消费者马上消费,谁先抢到算谁的,如果队列里没有消息,则消费者继续监听。后者也是一个或多个客户端订阅消息频道,只要发布者发布消息,所有订阅者都能收到消息,订阅者都是ping的。
主要使用了redis提供的blpop获取队列数据,如果队列没有数据则阻塞等待,也就是监听。
1234567ʡ器,服务器处理请求,返回响应(response)内容。
我们每天都在浏览网页,发送大大小小的请求给服务器。有时候,服务器接到了请求,会发现他也需要给另外的服务器发送请求,或者服务器也需要做另外一些事情,于是最初们发送的请求就被阻塞了,也就是要等待服务器完成其他的事情。 更多的时候,服务器做的额外事情,并不需要客户端等待,这时候就可以把这些额外的事情异步去做。从事异步任务的工具有很多。主要原理还是处理通知消息,针对通知消息通常采取是队列结构。生产和消费消息进行通信和业务实现。 生产消费与队列上述异步任务的实现,可以抽象为生产者消费模型。如同一个餐馆,厨师在做饭,吃货在吃饭。如果厨师做了很多,暂时卖不完,厨师就会休息;如果客户很多,厨师马不停蹄的忙碌,客户则需要慢慢等待。实现生产者和消费者的方式用很多,下面使用
大概输出如下:
Redis 队列Python内置了一个好用的队列结构。我们也可以是用redis实现类似的操作。并做一个简单的异步任务。 Redis提供了两种方式来作消息队列。一个是使用 生产消费模式主要使用了redis提供的blpop获取队列数据,如果队列没有数据则阻塞等待,也就是监听。 |