[No.003-4]爬虫网易赔率数据并导入到mysql数据库
admin
2023-07-31 01:50:41
0

收集比赛结果

#encoding:utf-8
import sys
import urllib2
import re
from bs4 import BeautifulSoup
import MySQLdb as mdb

reload(sys)
sys.setdefaultencoding(\'utf-8\')
soup = BeautifulSoup(open(\"20140830\"))


#1.场次 
#先获得temp(包含None和其他信息的队列)
scr = []
temp =[]
for trs in soup.findAll(\"tr\"):
    for tds in trs.findAll(\"td\",{\"width\":\"50\"}):
        temp.append(tds.string)

lt = len(temp)/4
for i in range(lt):
    scr.append(temp[4*i+3])



#2.赛事类型
league = []
for item in soup.findAll(\"tr\"):
    for item1 in item.findAll(\"td\",{\"width\":\"70\"}):
        league.append(item1.string.encode(\'utf-8\'))

#3.比赛日期
temp = []
gmdate = []
for item in soup.findAll(\"tr\"):
    for item1 in item.findAll(\"td\",{\"width\":\"61\"}):
        temp.append(item1)

#删除无效的前3个数据
temp =temp[3:]
for item in temp:
    gmdate.append(re.search(\"\\w{4}-\\w{2}-\\w{2}\",str(item)).group())




#4.主队,客队
team=[]
for item in soup.findAll(\"tr\"):
    for teams in item.findAll(\"a\",{\"class\":\"dui\"}):
        team.append(teams.string.strip().encode(\'utf-8\'))

#5.胜平负赔率
spfpl =[]
temp = []
for trs in soup.findAll(\"tr\"):
    for tds in trs.findAll(\"span\"):
        temp.append(tds.string)

#删除首尾两个无效数据
temp =temp[1:-1]
for i in range(len(temp)):
    for item in temp[7*i+4:7*i+7]:
        spfpl.append(item)

#6.比分结果以及比分结果赔率
bfjg = []
temp = []
for trs in soup.findAll(\"tr\"):
    for item in trs.findAll(\"div\",{\"align\":\"center\"}):
        for item1 in item.findAll(\"strong\"):
            bfjg.append(item1.string.encode(\'utf-8\'))

#7.形成场次日期唯一id
ids=[]
for i in range(len(scr)):
    ids.append(gmdate[i]+\'-\'+scr[i])


#装配结果集
res =[]
for i in range(len(scr)):
    res.append(ids[i])
    res.append(scr[i])
    res.append(league[i])
    res.append(gmdate[i])
    res.append(team[2*i])
    res.append(team[2*i+1])
    res.append(spfpl[3*i])
    res.append(spfpl[3*i+1])
    res.append(spfpl[3*i+2])
    res.append(bfjg[2*i])
    res.append(bfjg[2*i+1])




#更新数据库内容
conn=mdb.connect(host=\'localhost\',user=\'root\',passwd=\'oracle\',db=\'betdb\',port=3306)
cur = conn.cursor()
SQL=\"insert into results(id,lea,gmd,hos,gue,win,dog,los,res,odd) values(%s,%s,%s,%s,%s,%s,%s,%s,%s,%s)\"
l =len(res)/10
for i in range(l):
    for item in res[10*i:10*i+1]:
        cur.execute(SQL,res[10*i:10*i+10])
        i+=1


#更新胜平负
sql_update3=\"update results set spf=3 where res=\'1:0\' or res=\'2:0\' or res=\'2:1\' or res=\'3:0\' or res=\'3:1\' or res=\'3:2\' or res=\'4:0\' or res=\'4:1\' or res=\'4:2\' or res=\'5:0\' or res=\'5:1\' or res=\'5:2\' or res=\'胜其他\';\"

sql_update1=\"update results set spf=1 where res=\'0:0\' or res=\'1:1\' or res=\'2:2\' or res=\'3:3\' or res=\'平其他\';\"

sql_update0=\"update results set spf=0 where res=\'0:1\' or res=\'0:2\' or res=\'1:2\' or res=\'0:3\' or res=\'1:3\' or res=\'2:3\' or res=\'0:4\' or res=\'1:4\' or res=\'2:4\' or res=\'0:5\' or res=\'1:5\' or res=\'2:5\' or res=\'负其他\';\"

cur.execute(sql_update3)
cur.execute(sql_update1)
cur.execute(sql_update0)

#更新总进球
sql_updatezjq0=\"update results set zjq=0 where res=\'0:0\'\"
sql_updatezjq1=\"update results set zjq=1 where res=\'1:0\' or res=\'0:1\'\"
sql_updatezjq2=\"update results set zjq=2 where res=\'2:0\' or res=\'0:1\' or res=\'1:1\' or res=\'0:2\'\"
sql_updatezjq3=\"update results set zjq=3 where res=\'3:0\' or res=\'2:1\' or res=\'1:2\' or res=\'0:3\'\"
sql_updatezjq4=\"update results set zjq=4 where res=\'4:0\' or res=\'3:1\' or res=\'2:2\' or res=\'1:3\' or res=\'0:4\'\"
sql_updatezjq5=\"update results set zjq=5 where res=\'5:0\' or res=\'4:1\' or res=\'3:2\' or res=\'2:3\' or res=\'0:5\' or res=\'1:4\'\"
sql_updatezjq6=\"update results set zjq=6 where res=\'5:1\' or res=\'3:3\' or res=\'4:2\' or res=\'2:4\' or res=\'1:5\'\"
sql_updatezjq7=\"update results set zjq=7 where res=\'胜其他\' or res=\'负其他\'\"

cur.execute(sql_updatezjq0)
cur.execute(sql_updatezjq1)
cur.execute(sql_updatezjq2)
cur.execute(sql_updatezjq3)
cur.execute(sql_updatezjq4)
cur.execute(sql_updatezjq5)
cur.execute(sql_updatezjq6)
cur.execute(sql_updatezjq7)

相关内容

热门资讯

Mobi、epub格式电子书如... 在wps里全局设置里有一个文件关联,打开,勾选电子书文件选项就可以了。
定时清理删除C:\Progra... C:\Program Files (x86)下面很多scoped_dir开头的文件夹 写个批处理 定...
scoped_dir32_70... 一台虚拟机C盘总是莫名奇妙的空间用完,导致很多软件没法再运行。经过仔细检查发现是C:\Program...
500 行 Python 代码... 语法分析器描述了一个句子的语法结构,用来帮助其他的应用进行推理。自然语言引入了很多意外的歧义,以我们...
小程序支付时提示:appid和... [Q]小程序支付时提示:appid和mch_id不匹配 [A]小程序和微信支付没有进行关联,访问“小...
pycparser 是一个用... `pycparser` 是一个用 Python 编写的 C 语言解析器。它可以用来解析 C 代码并构...
微信小程序使用slider实现... 众所周知哈,微信小程序里面的音频播放是没有进度条的,但最近有个项目呢,客户要求音频要有进度条控制,所...
65536是2的几次方 计算2... 65536是2的16次方:65536=2⁶ 65536是256的2次方:65536=256 6553...
Apache Doris 2.... 亲爱的社区小伙伴们,我们很高兴地向大家宣布,Apache Doris 2.0.0 版本已于...
项目管理和工程管理的区别 项目管理 项目管理,顾名思义就是专注于开发和完成项目的管理,以实现目标并满足成功标准和项目要求。 工...