从今天起,我将在这里更新一个系列的python简单爬虫到建立网站的实践手记。
内容将会从最简单的开始,环境搭建,基本爬虫,入库,用Django建立可供用户访问的网站,网站部署。
同时打算涉及简单的异步爬虫,piplibe,队列等等。
为了方便,将使用django和sqlite3来作为例子, 虽然有时候这并不是最合适的场景。。
最终目的:一个能用的自动更新的垃圾站
下面进入正题。
本文的一切操作都在vps上
在Runabove建立最便宜的instance.
选择魁省机房-Sandbox-M-Ubuntu14.10-输入Instace名字”PythonSpider”-FireUp!
不出一分钟,VPS就建立好了。
用SSH 连接服务器
先建立一个screen,顺手更新apt-get,以后都在这里面操作,避免掉线导致任务中断。
123 | bashscreen –S spider # 取名叫spider的screensudo apt–get updatesudp apt–get upgrade |
再顺手安装一些肯定会用的东西
1234567 | bashsudo apt–get install gcc python–dev –ysudo – #这一步以后,用户就是root了 记住nginx=stable # use nginx=development for latest development versionadd–apt–repository ppa:nginx/$nginxapt–get updateapt–get install nginx –yapt–get install libxml2–dev libxslt1–dev lib32z1–dev –y |
装pip和virtualenv
123 | bashwget https://bootstrap.pypa.io/get-pip.pypython get–pip.pypip install virtualenv |
建立~/venv目录,建立virtualenv, 激活virtualenv
1234 | bashmkdir ~/venvcd ~/venvvirtualenv spidersource ~/venv/spider/bin/activate |
之后,shell提示符应该是这样
安装django(1.7)
12 | bashpip install djangocd ~ # 返回用户目录 |
5秒钟后,django安装完毕,现在开始建立项目目录(Django的project)。我们爬虫站点的所有文件都放在里面。
1 | bashdjango–admin startproject python_spider |
再测试下安装是否成功
12 | bashservice nginx stop # 为毛? 因为RunAbove的8000神马的端口不好用python manage.py runserver 0.0.0.0:80 # 只能用80,真蛋疼 |
现在访问192.99.71.91,我就能看到Django的示例页面
没骗你吧? 好了,看一眼能用就ctrl+c把服务器关掉。
然后,再建立一个app
12 | bashcd python_spiderpython manage.py startapp web |
所以,现在我有一个Django项目,叫python_spider, 它里面有个app叫web.
未完待续。。。(点击下面阅读)
下一篇,是简单Python爬虫的编写。