Python爬虫建站入门手记——从零开始建立采集站点(一:环境搭建)
admin
2023-07-31 01:51:45
0

从今天起,我将在这里更新一个系列的python简单爬虫到建立网站的实践手记

内容将会从最简单的开始,环境搭建,基本爬虫,入库,用Django建立可供用户访问的网站,网站部署。

同时打算涉及简单的异步爬虫,piplibe,队列等等。

为了方便,将使用django和sqlite3来作为例子, 虽然有时候这并不是最合适的场景。。

最终目的:一个能用的自动更新的垃圾站

下面进入正题。

第一部分,买VPS,装环境。

本文的一切操作都在vps上

在Runabove建立最便宜的instance.

选择魁省机房-Sandbox-M-Ubuntu14.10-输入Instace名字\”PythonSpider\”-FireUp!

不出一分钟,VPS就建立好了。

用SSH 连接服务器

先建立一个screen,顺手更新apt-get,以后都在这里面操作,避免掉线导致任务中断。

bashscreen -S spider # 取名叫spider的screen
sudo apt-get update
sudp apt-get upgrade

再顺手安装一些肯定会用的东西

bashsudo apt-get install gcc python-dev -y
sudo - #这一步以后,用户就是root了 记住
nginx=stable # use nginx=development for latest development version
add-apt-repository ppa:nginx/$nginx
apt-get update
apt-get install nginx -y
apt-get install libxml2-dev libxslt1-dev lib32z1-dev -y

装pip和virtualenv

bashwget https://bootstrap.pypa.io/get-pip.py
python get-pip.py
pip install virtualenv

建立~/venv目录,建立virtualenv, 激活virtualenv

bashmkdir ~/venv
cd ~/venv
virtualenv spider
source ~/venv/spider/bin/activate

之后,shell提示符应该是这样

安装django(1.7)

bashpip install django
cd ~ # 返回用户目录

5秒钟后,django安装完毕,现在开始建立项目目录(Django的project)。我们爬虫站点的所有文件都放在里面。

bashdjango-admin startproject python_spider

再测试下安装是否成功

bashservice nginx stop # 为毛? 因为RunAbove的8000神马的端口不好用
python manage.py runserver 0.0.0.0:80 # 只能用80,真蛋疼

现在访问192.99.71.91,我就能看到Django的示例页面

没骗你吧? 好了,看一眼能用就ctrl+c把服务器关掉。

然后,再建立一个app

bashcd python_spider
python manage.py startapp web

所以,现在我有一个Django项目,叫python_spider, 它里面有个app叫web.

未完待续。。。(点击下面阅读)
下一篇,是简单Python爬虫的编写。

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
python清除字符串里非数字... 本文实例讲述了python清除字符串里非数字字符的方法。分享给大家供大家参考。具体如下: impor...