简介

在使用 scrapy 爬取 IT桔子公司信息，用来进行分析，了解 IT 创业公司的一切情况，之前使用 scrapy 写了一个默认线程是10的单个实例，为了防止被 ban IP 设置了下载的速度，3万多个公司信息爬了1天多才完成，现在想到使用分布式爬虫来提高效率。

源码githup

技术工具：Python3.5 scrapy scrapy_redis redis docker1.12 docker-compose Kitematic mysql SQLAlchemy

准备工作

1. 安装 Docker 点这里去了解、安装;
2. pip install scrapy scrapy_redis;

代码编写

1. 分析页面信息：
   我需要获取的是每一个「公司」的详情页面链接 和 分页按钮链接；
2. 统一存储获取到的链接，提供给多个 spider 爬取；
3. 多个 spider 共享一个 redis list 中的链接；

目录结构图

juzi_spider.py

说明：

1. class 继承了RedisCrawlSpider 而不是CrawlSpider
2. start_urls 改为一个自定义的 itjuziCrawler:start_urls,这里的itjuziCrawler:start_urls 就是作为所有链接存储到 redis 中的 key,scrapy_redis 里也是通过redis的 lpop方法弹出并删除链接的；

db_util.py

使用 SQLAlchemy 作为 ORM 工具，当表结构不存在时，自动创建表结构

middlewares.py

增加了很多 User-Agent，每一个请求随机使用一个，防止防止网站通过 User-Agent 屏蔽爬虫

settings.py

配置middlewares.py scrapy_redis redis 链接相关信息

部署

在上面的「目录结构图」中有，Dockerfile和docker-compose.yml

Dockerfile

说明：

• 使用 python3.5作为基础镜像
• 将/usr/local/bin设置环境变量
• 映射 host 和 container 的目录
• 安装 requirements.txt
• 特别要说明的是COPY spiders.py /usr/local/lib/python3.5/site-packages/scrapy_redis，将 host 中的 spiders.py 拷贝到container 中的 scrapy_redis 安装目录中，因为 lpop 获取redis 的值在 python2中是 str 类型，而在 python3中是 bytes 类型，这个问题在 scrapy_reids 中需要修复，spiders.py 第84行需要修改；
• 启动后立即执行爬行命令 scrapy crawl itjuzi_dis

docker-compose.yml

说明:

• 使用第2版本的 compose 描述语言
• 定义了 spider 和 redis 两个 service
• spider默认使用当前目录的 Dockerfile 来创建，redis使用 redis:latest 镜像创建，并都映射6379端口

开始部署

启动 container

可以在 Kitematic GUI 工具中观察创建和运行情况；

在没有设置 start_urls 时，4个 container 中的爬虫都处于饥渴的等待状态

现在给 redis 中放入 start_urls:

4个爬虫都动起来了，一直爬到start_urls为空

以上！