Python爬虫——你们要的王者荣耀高清图

简介: 曾经144区的王者 学了计算机后 头发逐渐从李白变成了达摩   秀发有何用,变秃亦变强  (emmm徒弟说李白比达摩强,变秃不一定变强)   前言  前几天开了农药的安装包,发现农药是.Net实现的游戏 虽然游戏用的语言和排位一样让人恼火 但感觉图片美工还是可以的 比如: 不知...不知道你们是不是和我一样喜欢 玩阴阳师呢,我可是Ssr只有两只狗子的非酋呢 正文 在 http://pvp.qq.com/web201605/herolist.shtml 可以看到全英雄列表。

曾经144区的王者

学了计算机后

头发逐渐从李白变成了达摩

 


秀发有何用,变秃亦变强 

(emmm徒弟说李白比达摩强,变秃不一定变强)


 

前言 

前几天开了农药的安装包,发现农药是.Net实现的游戏

虽然游戏用的语言和排位一样让人恼火

但感觉图片美工还是可以的

比如:

不知...不知道你们是不是和我一样喜欢

玩阴阳师呢,我可是Ssr只有两只狗子的非酋呢


正文

在 http://pvp.qq.com/web201605/herolist.shtml 可以看到全英雄列表。

 

 按F12查看元素

看到下面这一堆<li></li>标签了吗

里面的href就是每个英雄的详情地址

图片就在这个链接中

拿到selector

body > div.wrapper > div > div > div.herolist-box > div.herolist-content > ul > li > a

 英雄列表获取源码:

 1 def getHeroList():
 2     '''取所以英雄存入list中'''
 3     hero = {}
 4     res = requests.get(mainurl)
 5     sp = BeautifulSoup(res.content, "html.parser")
 6     lists = sp.select('body > div.wrapper > div > div > div.herolist-box > div.herolist-content > ul > li')
 7     for li in lists:
 8         oj = li.select('a')[0];
 9         hero['url'] = oj['href']
10         hero['name'] = oj.text
11         # 正则表达式取ename编号
12         ename = re.findall('herodetail/(\d+)\.shtml', oj['href'])[0]
13         hero['ename'] = ename
14         herolist.append(hero)
15         hero = {}
16     return herolist

 

进入英雄详情之后

可以发现,要保存图片的地址也在<li></li>中

他的selector是:

body > div.wrapper > div.zk-con1.zk-con > div > div > div.pic-pf > ul > li > i > img

 

只需要将这个图片保存下来就可以了

代码:

1 def saveImg(filepath, imgUrl):
2     '''下载图片并保存'''
3     r = requests.get(imgUrl, stream=True)
4     with open(filepath, 'wb') as f:
5         for chunk in r.iter_content(chunk_size=1024):
6             if chunk:
7                 f.write(chunk)
8                 f.flush()
9         f.close()

 

 全部代码:

 1 # -*- coding: utf-8 -*-
 2  
 3 import os
 4 import re
 5 import requests
 6 from bs4 import BeautifulSoup
 7 
 8 import sys
 9 reload(sys)
10 sys.setdefaultencoding('utf-8')
11 
12 baseurl = 'http://pvp.qq.com/web201605'
13 mainurl = 'http://pvp.qq.com/web201605/herolist.shtml'
14 herolist = []
15 
16 
17 def getHeroList():
18     '''取所以英雄存入list中'''
19     hero = {}
20     res = requests.get(mainurl)
21     sp = BeautifulSoup(res.content, "html.parser")
22     lists = sp.select('body > div.wrapper > div > div > div.herolist-box > div.herolist-content > ul > li')
23     for li in lists:
24         oj = li.select('a')[0];
25         hero['url'] = oj['href']
26         hero['name'] = oj.text
27         # 正则表达式取ename编号
28         ename = re.findall('herodetail/(\d+)\.shtml', oj['href'])[0]
29         hero['ename'] = ename
30         herolist.append(hero)
31         hero = {}
32     return herolist
33 
34 
35 def saveImg(filepath, imgUrl):
36     '''下载图片并保存'''
37     r = requests.get(imgUrl, stream=True)
38     with open(filepath, 'wb') as f:
39         for chunk in r.iter_content(chunk_size=1024):
40             if chunk:
41                 f.write(chunk)
42                 f.flush()
43         f.close()
44 
45 
46 if __name__ == '__main__':
47     hlist = getHeroList()
48     for hero in herolist:
49         herodir = os.path.join(os.getcwd(), hero['name'])
50         heropage = baseurl + '/' + hero['url']
51         print('[%s]' % (herodir))
52         res = requests.get(heropage)
53         sop = BeautifulSoup(res.content, "html.parser")
54         li = sop.select('body > div.wrapper > div.zk-con1.zk-con > div > div > div.pic-pf > ul ')[0]['data-imgname']
55         li = str(li).split('|')
56         print(li)
57         # 遍历所有皮肤
58         for i in range(len(li)):
59             imgurl = 'http://game.gtimg.cn/images/yxzj/img201606/skin/hero-info/' \
60                      + hero['ename'] + '/' + hero['ename'] + '-bigskin-' + str(i + 1) + '.jpg'
61             imgname = os.path.join(herodir, li[i] + ".jpg")
62             print('----[%s]--[%s]---' % (imgname, imgurl))
63             # 创建英雄目录
64             if os.path.exists(herodir) == False:
65                 os.mkdir(herodir)
66             saveImg(imgname, imgurl)

 图片生成在同级目录

 

 

 

 

 

 

目录
相关文章
|
16天前
|
数据采集 存储 XML
Python爬虫定义入门知识
Python爬虫是用于自动化抓取互联网数据的程序。其基本概念包括爬虫、请求、响应和解析。常用库有Requests、BeautifulSoup、Scrapy和Selenium。工作流程包括发送请求、接收响应、解析数据和存储数据。注意事项包括遵守Robots协议、避免过度请求、处理异常和确保数据合法性。Python爬虫强大而灵活,但使用时需遵守法律法规。
|
17天前
|
数据采集 缓存 定位技术
网络延迟对Python爬虫速度的影响分析
网络延迟对Python爬虫速度的影响分析
|
18天前
|
数据采集 Web App开发 监控
高效爬取B站评论:Python爬虫的最佳实践
高效爬取B站评论:Python爬虫的最佳实践
|
26天前
|
数据采集 存储 JSON
Python网络爬虫:Scrapy框架的实战应用与技巧分享
【10月更文挑战第27天】本文介绍了Python网络爬虫Scrapy框架的实战应用与技巧。首先讲解了如何创建Scrapy项目、定义爬虫、处理JSON响应、设置User-Agent和代理,以及存储爬取的数据。通过具体示例,帮助读者掌握Scrapy的核心功能和使用方法,提升数据采集效率。
73 6
|
19天前
|
数据采集 存储 JSON
Python爬虫开发中的分析与方案制定
Python爬虫开发中的分析与方案制定
|
24天前
|
数据采集 JSON 测试技术
Python爬虫神器requests库的使用
在现代编程中,网络请求是必不可少的部分。本文详细介绍 Python 的 requests 库,一个功能强大且易用的 HTTP 请求库。内容涵盖安装、基本功能(如发送 GET 和 POST 请求、设置请求头、处理响应)、高级功能(如会话管理和文件上传)以及实际应用场景。通过本文,你将全面掌握 requests 库的使用方法。🚀🌟
42 7
|
23天前
|
数据采集 Web App开发 JavaScript
爬虫策略规避:Python爬虫的浏览器自动化
爬虫策略规避:Python爬虫的浏览器自动化
|
24天前
|
数据采集 存储 XML
Python实现网络爬虫自动化:从基础到实践
本文将介绍如何使用Python编写网络爬虫,从最基础的请求与解析,到自动化爬取并处理复杂数据。我们将通过实例展示如何抓取网页内容、解析数据、处理图片文件等常用爬虫任务。
125 1
|
10天前
|
数据采集 JavaScript 程序员
探索CSDN博客数据:使用Python爬虫技术
本文介绍了如何利用Python的requests和pyquery库爬取CSDN博客数据,包括环境准备、代码解析及注意事项,适合初学者学习。
42 0
|
8天前
|
存储 数据挖掘 开发者
Python编程入门:从零到英雄
在这篇文章中,我们将一起踏上Python编程的奇幻之旅。无论你是编程新手,还是希望拓展技能的开发者,本教程都将为你提供一条清晰的道路,引导你从基础语法走向实际应用。通过精心设计的代码示例和练习,你将学会如何用Python解决实际问题,并准备好迎接更复杂的编程挑战。让我们一起探索这个强大的语言,开启你的编程生涯吧!