Python爬取OPGG上英雄联盟英雄胜率及选取率信息的操作
本次爬取网站为opgg,网址为:” http://www.op.gg/champion/statistics”
由网站界面可以看出,右侧有英雄的详细信息,以Garen为例,胜率为53.84%,选取率为16.99%,常用位置为上单
现对网页源代码进行分析(右键鼠标在菜单中即可找到查看网页源代码)。通过查找“53.84%”快速定位Garen所在位置
由代码可看出,英雄名、胜率及选取率都在td标签中,而每一个英雄信息在一个tr标签中,td父标签为tr标签,tr父标签为tbody标签。
对tbody标签进行查找
代码中共有5个tbody标签(tbody标签开头结尾均有”tbody”,故共有10个”tbody”),对字段内容分析,分别为上单、打野、中单、ADC、辅助信息
以上单这部分英雄为例,我们需要首先找到tbody标签,然后从中找到tr标签(每一条tr标签就是一个英雄的信息),再从子标签td标签中获取英雄的详细信息
二、爬取步骤
爬取网站内容->提取所需信息->输出英雄数据
getHTMLText(url)->fillHeroInformation(hlist,html)->printHeroInformation(hlist)
getHTMLText(url)函数是返回url链接中的html内容
fillHeroInformation(hlist,html)函数是将html中所需信息提取出存入hlist列表中
printHeroInformation(hlist)函数是输出hlist列表中的英雄信息
三、代码实现
1、getHTMLText(url)函数
def getHTMLText(url): #返回html文档信息 try: r = requests.get(url,timeout = 30) r.raise_for_status() r.encoding = r.apparent_encoding return r.text #返回html内容 except: return ""
2、fillHeroInformation(hlist,html)函数
以一个tr标签为例,tr标签内有7个td标签,第4个td标签内属性值为"champion-index-table__name"的div标签内容为英雄名,第5个td标签内容为胜率,第6个td标签内容为选取率,将这些信息存入hlist列表中
def fillHeroInformation(hlist,html): #将英雄信息存入hlist列表 soup = BeautifulSoup(html,"html.parser") for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children: #遍历上单tbody标签的儿子标签 if isinstance(tr,bs4.element.Tag): #判断tr是否为标签类型,去除空行 tds = tr('td') #查找tr标签下的td标签 heroName = tds[3].find(attrs = "champion-index-table__name").string #英雄名 winRate = tds[4].string #胜率 pickRate = tds[5].string #选取率 hlist.append([heroName,winRate,pickRate]) #将英雄信息添加到hlist列表中
3、printHeroInformation(hlist)函数
def printHeroInformation(hlist): #输出hlist列表信息 print("{:^20}/t{:^20}/t{:^20}/t{:^20}".format("英雄名","胜率","选取率","位置")) for i in range(len(hlist)): i = hlist[i] print("{:^20}/t{:^20}/t{:^20}/t{:^20}".format(i[0],i[1],i[2],"上单"))
4、main()函数
网站地址赋值给url,新建一个hlist列表,调用getHTMLText(url)函数获得html文档信息,使用fillHeroInformation(hlist,html)函数将英雄信息存入hlist列表,再使用printHeroInformation(hlist)函数输出信息
def main(): url = "http://www.op.gg/champion/statistics" hlist = [] html = getHTMLText(url) #获得html文档信息 fillHeroInformation(hlist,html) #将英雄信息写入hlist列表 printHeroInformation(hlist) #输出信息
四、结果演示
1、网站界面信息
2、爬取结果
五、完整代码
import requests #导入requests库import bs4 #导入bs4库from bs4 import BeautifulSoup #导入BeautifulSoup库def getHTMLText(url): #返回html文档信息 try: r = requests.get(url,timeout = 30) r.raise_for_status() r.encoding = r.apparent_encoding return r.text #返回html内容 except: return ""def fillHeroInformation(hlist,html): #将英雄信息存入hlist列表 soup = BeautifulSoup(html,"html.parser") for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children: #遍历上单tbody标签的儿子标签 if isinstance(tr,bs4.element.Tag): #判断tr是否为标签类型,去除空行 tds = tr('td') #查找tr标签下的td标签 heroName = tds[3].find(attrs = "champion-index-table__name").string #英雄名 winRate = tds[4].string #胜率 pickRate = tds[5].string #选取率 hlist.append([heroName,winRate,pickRate]) #将英雄信息添加到hlist列表中def printHeroInformation(hlist): #输出hlist列表信息 print("{:^20}/t{:^20}/t{:^20}/t{:^20}".format("英雄名","胜率","选取率","位置")) for i in range(len(hlist)): i = hlist[i] print("{:^20}/t{:^20}/t{:^20}/t{:^20}".format(i[0],i[1],i[2],"上单"))def main(): url = "http://www.op.gg/champion/statistics" hlist = [] html = getHTMLText(url) #获得html文档信息 fillHeroInformation(hlist,html) #将英雄信息写入hlist列表 printHeroInformation(hlist) #输出信息main()
如果需要爬取打野、中单、ADC或者辅助信息,只需要修改
fillHeroInformation(hlist,html)
函数中的
for tr in soup.find(name = "tbody",attrs = "tabItem champion-trend-tier-TOP").children语句
将attrs属性值修改为
"tabItem champion-trend-tier-JUNGLE"
"tabItem champion-trend-tier-MID"
"tabItem champion-trend-tier-ADC"
"tabItem champion-trend-tier-SUPPORT"
等即可!
以上为个人经验,希望能给大家一个参考,也希望大家多多支持 。如有错误或未考虑完全的地方,望不吝赐教。
最后更新于 2021-11-22 08:21:34 并被添加「」标签,已有 位童鞋阅读过。
本站使用「署名 4.0 国际」创作共享协议,可自由转载、引用,但需署名作者且注明文章出处
相关文章
- 雯丽脚裂灵脚后跟干裂修复护脚霜滋润护脚膏防龟裂皲裂皴裂护足霜
- Python黑魔法远程控制开机的实例
- iphone13充电器头适用苹果20w快充PD充电头12苹果13pro x xr 8闪充20W正品xs max手机11通用ipad插头typec快
- Python实战之实现简单的名片管理系统
- 管道疏通剂强力溶解下水道马桶厕所地漏除臭厨房油污堵塞分解神器