python抓取最新博客内容并生成Rss
admin
2023-07-31 02:20:09
0

osc的rss不是全文输出的,不开心,所以就有了python抓取osc最新博客生成Rss

# -*- coding: utf-8 -*-


from bs4 import BeautifulSoup
import urllib2

import datetime
import time
import PyRSS2Gen
from email.Utils import formatdate
import re
import sys
import os
reload(sys)
sys.setdefaultencoding(\'utf-8\')

class RssSpider():
 def __init__(self):
 self.myrss = PyRSS2Gen.RSS2(title=\'OSChina\',
link=\'http://my.oschina.net\',
description=str(datetime.date.today()),
pubDate=datetime.datetime.now(),
 lastBuildDate = datetime.datetime.now(),
items=[]
)
self.xmlpath=r\'/var/www/myrss/oschina.xml\'

self.baseurl=\"http://www.oschina.net/blog\"
 #if os.path.isfile(self.xmlpath):
#os.remove(self.xmlpath)
 def useragent(self,url):
 i_headers = {\"User-Agent\":\"Mozilla/5.0 (Windows NT 6.1; WOW64) 
 AppleWebKit/537.36 (KHTML, like Gecko) Chrome/36.0.1985.125 Safari/537.36\", 
\"Referer\": \'http://baidu.com/\'}
 req = urllib2.Request(url, headers=i_headers)
 html = urllib2.urlopen(req).read()
 return html
 def enterpage(self,url):
 pattern = re.compile(r\'d{4}Sd{2}Sd{2}sd{2}Sd{2}\')
rsp=self.useragent(url)
soup=BeautifulSoup(rsp)
timespan=soup.find(\'div\',{\'class\':\'BlogStat\'})
timespan=str(timespan).strip().replace(\'n\',\'\').decode(\'utf-8\')
match=re.search(r\'d{4}Sd{2}Sd{2}sd{2}Sd{2}\',timespan)
timestr=str(datetime.date.today())
 if match:
timestr=match.group()
 #print timestr
ititle=soup.title.string
div=soup.find(\'div\',{\'class\':\'BlogContent\'})
rss=PyRSS2Gen.RSSItem(
title=ititle,
link=url,
 description = str(div),
 pubDate = timestr
)

 return rss
 def getcontent(self):
rsp=self.useragent(self.baseurl)
soup=BeautifulSoup(rsp)
ul=soup.find(\'div\',{\'id\':\'RecentBlogs\'})
 for li in ul.findAll(\'li\'):
div=li.find(\'div\')
 if div is not None:
alink=div.find(\'a\')
 if alink is not None:
link=alink.get(\'href\')
 print link
html=self.enterpage(link)
self.myrss.items.append(html)
 def SaveRssFile(self,filename):
finallxml=self.myrss.to_xml(encoding=\'utf-8\')
file=open(self.xmlpath,\'w\')
file.writelines(finallxml)
file.close()



if __name__==\'__main__\':
rssSpider=RssSpider()
rssSpider.getcontent()
rssSpider.SaveRssFile(\'oschina.xml\')

以上所述就是本文的全部内容了,希望大家能够喜欢。

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
项目管理和工程管理的区别 项目管理 项目管理,顾名思义就是专注于开发和完成项目的管理,以实现目标并满足成功标准和项目要求。 工...