pyspider安装
admin
2023-07-30 20:47:07
0

pyspider是一个强大的爬虫框架,具体我就不多说明了,在使用它之前首先需要安装PhantomJS

安装PhantomJS

PhantomJS 是一个基于 WebKit 的服务器端 JavaScript API。它全面支持web而不需浏览器支持,其快速、原生支持各种Web标准:DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。 PhantomJS 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。

brew install phantomjs

安装pyspider

pyspider需要在python2上运行,使用系统的python可能会有无法安装等错误,
请参考python安装

pip2 install pyspider

如果出现一大堆红字的错误

xcode-select --install

选择安装,等待安装完成

再次执行上面的pip命令
安装过程较长,最后结果

Successfully installed Flask-Login-0.3.2 lxml-3.6.0 pycurl-7.43.0 pyquery-1.2.13 pyspider-0.3.7 requests-2.9.1 wsgidav-1.2.0

运行pyspider

pyspider


pyspider.png

恭喜,终于完成了安装
打开safari,输入 0.0.0.0:5000即可进入webui,具体使用方式请见后面的文章

如果有红字,failed import之类的,可能是不小心把pyspider装在了python3上

pip3 uninstall pyspider
pip2 install pyspider

重新打开终端,再次运行pyspider

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
python清除字符串里非数字... 本文实例讲述了python清除字符串里非数字字符的方法。分享给大家供大家参考。具体如下: impor...