scrapy笔记(2)爬天天美剧首页
admin
2023-07-30 20:41:45
0

昨天初学了下scrapy,今天测试下效果,看见网上很多都是用豆瓣的页面做测试,那么久换个不一样的,就选择 天天美剧 了

#coding:utf-8
import json
import scrapy
from my_scrapy_project.items import DmozItem
class DmozSpider(scrapy.Spider):
    name = \"dmoz\"
    allowed_domains = [\"ttmeiju.com\"]
    start_urls = [
    \"http://www.ttmeiju.com/\"
    ]

def parse(self, response):
    for sel in response.xpath(\"//table[contains(@class,\'seedtable\')]/tr[contains(@class,\'Scontent\')]\"):
        item = DmozItem()
        title = sel.xpath(\'td[2]/a/text()\').extract()[0]
        link = sel.xpath(\'td[2]/a/@href\').extract()
        download = sel.xpath(\'td[3]/a/@href\').extract()
        item[\'title\'] = title
        item[\'link\'] = link
        item[\'download\'] = download
        yield item
  • response.xpath(\”//table[contains(@class,\’seedtable\’)]/tr[contains(@class,\’Scontent\’)]\”) 这段选择了天天美剧首页新的资源板块,意思是选择class为seedtable的table里面class为scontent的tr
  • sel.xpath(\’td[2]/a/text()\’).extract()[0] 选择的是片源的名字,通过审查元素,查看源代码可以看到
  • sel.xpath(\’td[3]/a/@href\’).extract() 这是资源的各种下载链接

输出结果:

{\"download\": [\"http://pan.baidu.com/s/1i3CcdQd\"], \"link\": [\"http://www.ttmeiju.com/seed/38897.html\"], \"title\": \"\\n\\u840c\\u5ba0\\u4e5f\\u75af\\u72c2 Pets Wild at Heart S01E02 HR-HDTV \\u5927\\u5bb6\\u5b57\\u5e55\\u7ec4                    \\n                    \\n                    \"},
{\"download\": [\"http://pan.baidu.com/s/1c0rT2pi\"], \"link\": [\"http://www.ttmeiju.com/seed/38896.html\"], \"title\": \"\\n\\u840c\\u5ba0\\u4e5f\\u75af\\u72c2 Pet Wild at Heart S01E01 HR-HDTV \\u5927\\u5bb6\\u5b57\\u5e55\\u7ec4                    \\n                    \\n                    \"},
{\"download\": [\"http://pan.baidu.com/s/1qWp3jgo\"], \"link\": [\"http://www.ttmeiju.com/seed/38895.html\"], \"title\": \"\\n\\u840c\\u5ba0\\u4e5f\\u75af\\u72c2 Pet Wild At Heart S01E01 \\u5927\\u5bb6\\u5b57\\u5e55\\u7ec4                    \\n                    \\n                    \"},
{\"download\": [\"http://pan.baidu.com/s/1bnxvmFl\"], \"link\": [\"http://www.ttmeiju.com/seed/38894.html\"], \"title\": \"\\n\\u7231\\u306e\\u65c5\\u9986 The Love Hotel \\u5927\\u5bb6\\u5b57\\u5e55\\u7ec4                    \\n                    \\n                    \"},

又出现中文字符编码问题 。。。。 明天解决

相关内容

热门资讯

500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
python绘图库Matplo... 本文简单介绍了Python绘图库Matplotlib的安装,简介如下: matplotlib是pyt...
Prometheus+Graf... 一,Prometheus概述 1,什么是Prometheus?Prometheus是最初在Sound...