Python让你再也不为文章配图与素材发愁,让高清图片占满你的硬盘!

本文涉及的产品
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云解析 DNS,旗舰版 1个月
简介: 最近写公众号写的染上了个怪毛病,不到12点根本不知道写啥。一过凌晨那简直是吃了大回复一般的文思泉涌。结果就是越熬夜越晚了.公众号是每天定时发的,简书上的发帖时间才是真正的睡前倒计时...然后,来看看都是几点睡的

怪毛病


最近写公众号写的染上了个怪毛病,不到12点根本不知道写啥。一过凌晨那简直是吃了大回复一般的文思泉涌。结果就是越熬夜越晚了.公众号是每天定时发的,简书上的发帖时间才是真正的睡前倒计时...然后,来看看都是几点睡的:



简书发文时间


为什么这么有精神?因为我武当王也改投了全真教,习得重阳真人一身武学典籍,本着不藏私的心态,在这里共享给大家,请叫我雷锋:


大道初修通九窍 九窍原在尾闾穴

先从涌泉脚底冲 涌泉冲过渐至膝

膝过徐徐至尾闾 泥丸顶上回旋急

秘语师传悟本初 来时无余去无踪

历年尘垢揩磨净 遍体灵明耀太虚

修真活记有何凭 心死群情今不生

精气充盈功行具 灵光照耀满神京

金锁关穿下鹊桥 重楼十二降宫室


电脑硬盘里的图片


收藏夹的照片(硬盘里的女神)看了又删,去年夏天后就没聊过天...很久前有这么一首歌很火,不知道大家听过没,只是括号里的歌词被改成了现在的样子。那么,你们以为我今晚要开车?NONONO...

每天做公众号,最愁的两件事,一是选题,二是公众号配图。不知道写什么,比写代码遇到坑更让人发愁。那么配图呢?配图的坑主要在于,选择的图首先要有美感或者和文章主题有所关联,最重要的是你选择的图必须是没有版权的。不然容易遭到投诉...网上推荐了很多免费的床图网站,我一直用的是pixabay


收藏夹



很多床图网站为什么选择它?一个是这个网站有百度云加速,虽然速度还是很卡( 同样这里也是个坑,一会儿解释),而且预览图片时,不会添加网站的水印,你可以通过f12获取url的方式去下载图片,而无需注册后点进行下载,但是每次通过f12获取url的方式下载图片,有点太耗费时间了,所以今天就教大家通过python自动下载网站的先来填个坑

大坑解析

上面说到了,网站支持百度云加速,但同样的百度为了判断你是否为爬虫访问,会对浏览器进行监测。首次访问网站(有的运气好会访问几次后出现验证...),需要填写验证码确认非程序爬虫。之后才能正常使用。



百度云监测



但如果是拿requests进行url访问下载,怎么去破解?网上很多说什么js获取验证的,对于requests来说都不靠谱,当然你可以换成selenium前台模拟浏览器操作解析验证码然后去下载,先不说这验证码解析成果率多低,selenium的爬虫速度能和requests比?

我们该如何解决这个问题?我们先老老实实的输入验证码,然后看下面这张图:



cookie有效时间



pixabay.com网站存在7个cookie(显示9个是另外一个网站的...),然后一个一个查每个cookie的详细信息,连蒙带猜+验证,最后确定了,控制百度云的cookie有效期是通过 cf_clearance时间来控制的,有效时长为 一个半小时!

喜欢钻研的朋友可以考虑怎么修改这个时间,但对我来说,一个半小时够做太多东西了...


requests跳过百度云监测

知道了是由于cookie验证导致的访问异常,那我们该怎么做?通过headers添加cookie!


# -*- coding: utf-8 -*-
# @Author   : 王翔
# @JianShu  : 清风Python
# @Date     : 2019/7/25 23:55
# @Software : PyCharm
# @version  :Python 3.7.3
# @File     : picture_download.pyimport requests
from bs4 import BeautifulSoupheaders = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36","cookie":"__cfduid=dd2de4b5c79a4979c835e6925d31ad9741563739527; lang=zh; _ga=GA1.2.1567947853.1563739352; is_human=1; _gid=GA1.2.366594473.1564068124; cf_clearance=bb9e4a5a869c0a90e552c4a1f4e1dccc67dc021f-1564074082-1800-250; client_width=1903"
}
#
r =requests.get('https://pixabay.com/zh/images/search/',headers=headers)
print(r.text)

爬虫成功访问



网站爬虫分析

再来个坑

刚才说了网站的图片是动态加载的,这个有什么坑呢?代码说话:


import requests
from bs4 import BeautifulSoupheaders = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36","cookie": "____cfduid=dd2de4b5c79a4979c835e6925d31ad9741563739527; lang=zh; _ga=GA1.2.1567947853.1563739352; is_human=1; _gid=GA1.2.366594473.1564068124; cf_clearance=2dfa6eddfa8309a53f97f2682d2fccf03ec6d4e2-1564078000-1800-250; client_width=1028"
}
#
r = requests.get('https://pixabay.com/zh/images/search/%E4%B9%A6/?pagi=4', headers=headers)
soup = BeautifulSoup(r.text, 'lxml')
items = soup.find("div", {"class": "search_results"}).find_all("div", {"class": "item"})
for item in items:img = item.a.imgprint(img.attrs)

url解析的坑



我们会发现前十几张的url链接保存在 srcset中,而之后的80+张图片他的url包裹在 data-lazy-srcset中,后者的src也是默认的 blank.gif的空白幕布,还么来得及把图片刷出来...

所以爬虫的时候我们需要小心了…如何快捷的判断到底使用哪个attr?这里用到一个python的 or方法,举个例子:


b = None or "abc"
b
>>> 'abc'
b = "abc" or None
b
>>> 'abc'

这样大家明白了吧,我们只需要 img.attrs.get('srcset')即可。

只有你抠细节,才能成长!所以我问你,srcset放在or前还是data-lazy-srcset放在or前?再看一个例子:


b = "abc" or 0/0
b
>>> 'abc'
b =  0/0 or 'abc'
>>> Traceback (most recent call last):File "<input>", line 1, in <module>
ZeroDivisionError: division by zero

当python遇到or运算时,如果第一个条件成立,那么直接返回数值,而不关注or后的表达式了!所以data-lazy-srcset有80+个,我们应该把它放在or的左边。够不够抠细节?细节决定成败!


小技巧1:指定内容检索

如何将我们的图片进行分类呢,网站的url也比较简单:

https://pixabay.com/zh/images/search/%E4%B9%A6/?pagi=2

search后的编码,通过from urllib.parse import quote即可获取,然后就是page的数字通过for循环匹配即可。


小技巧2:保存图片你索引

这里可是一个彩蛋了!大家都知道img一般都有一个alt的选项,即当图片显示不出来时,通过alt告诉大家这个图片是干嘛的!比如这些:


如果我们在保存图片的时候将图片名字中添加alt索引,之后我们通过windows自带的查找不就可以进行模拟网站的检索功能了么?是不是很鸡贼?哈哈...


小技巧3:获取高像素的图片

刚才我们看到了,默认的url是__340.jpg,像素比较低,但如果我们点击每个a标签的链接进入每个单张图的地址,会看到720p的中品质图片,那么要改链接一个一个解析?不用那么麻烦,这个网站的中品质图片link对比如下:


https://cdn.pixabay.com/photo/2019/07/22/09/02/landscape-4354610__340.jpg

https://cdn.pixabay.com/photo/2019/07/22/09/02/landscape-4354610_960_720.jpg


所以我们只需要将__340替换为_960_720即可获取高像素的图片了,聪明吧....


代码实现

提前强调一句,对于这种福利性的网站,大家还是下手轻一点,善待它吧!

# -*- coding: utf-8 -*-
# @Author   : 王翔
# @JianShu  : 清风Python
# @Date     : 2019/7/26 02:55
# @Software : PyCharm
# @version  :Python 3.7.3
# @File     : picture_download.pyimport os
import time
import requests
from bs4 import BeautifulSoup
from urllib.parse import quote, urljoin, urlsplit
import threadingclass PictureDownload:BaseUrl = "https://pixabay.com/zh/images/search/"DefaultPages = 5Path = os.path.dirname(os.path.abspath(__file__))def __init__(self):# cookie大家在使用的时候,记得替换...self.headers = {"cache-control":"Cache-control: private, max-age=0, no-cache","cf-ray":"4fc0bf640b4e20be-LAX","set-cookie":"lang=zh; expires=Sun, 22-Jul-2029 20:05:15 GMT; Max-Age=315360000; Path=/","User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36","cookie": "__cfduid=db4c7fedc0b42d0ba4df71f0a6bb61b001564084956; lang=zh; _ga=GA1.2.314030298.1564084752; _gid=GA1.2.2023032267.1564084752; is_human=1; client_width=1903; cf_clearance=65c758669b4c70b8d7300c06185fc16df3861533-1564085107-1800-250; _gat_UA-20223345-1=1"}self.url, self.download_path = self.set_basic()def set_basic(self):_url = urljoin(self.BaseUrl, quote(keyword))_download_Path = os.path.join(self.Path, keyword)if not os.path.exists(_download_Path):os.mkdir(_download_Path)return _url, _download_Pathdef get_url(self):for page in range(self.DefaultPages + 1):parameter = {'pagi': page}r = requests.get(self.url, params=parameter, headers=self.headers, timeout=10)soup = BeautifulSoup(r.text, 'lxml')items = soup.find("div", {"class": "search_results"}).find_all("div", {"class": "item"})for item in items:_img = item.a.img.attrslink = _img.get("data-lazy-srcset") or _img.get("srcset")alt = _img.get('alt')t = threading.Thread(target=self.save_picture, args=(link, alt))t.start()time.sleep(0.2)def save_picture(self, link, alt):_url = link.split(' 1x')[0].replace('__340', '_960_720')_file_name = os.path.join(self.download_path, alt + _url.split('/')[-1])r = requests.get(_url, headers=self.headers, timeout=5)try:with open(_file_name, 'wb') as f:f.write(r.content)print("图片{}下载完成".format(_file_name))except:print("图片{}下载失败".format(_file_name))if __name__ == '__main__':keyword = str(input("请输入所需下载图片的关键字:"))main = PictureDownload()main.get_url()

来看看下载的效果,分别下载了图书、编程分类的图片,默认每个类型下载5页共1000张图片,:


由于部分图片链接失效,最终下载成功989张,总计内存165MB....



下载效果



另外,刚才让保存alt的用处,现在就可以展示出来了,因为网站的图片检索也是通过关键字的,所以利用windows检索功能就实现了类似网站的检索操作:


检索功能



是不是很炫酷?


The End


相关文章
|
2月前
|
存储 人工智能 开发工具
AI助理化繁为简,速取代码参数——使用python SDK 处理OSS存储的图片
只需要通过向AI助理提问的方式输入您的需求,即可瞬间获得核心流程代码及参数,缩短学习路径、提升开发效率。
1456 4
AI助理化繁为简,速取代码参数——使用python SDK 处理OSS存储的图片
|
2月前
|
Python
Python实用记录(六):如何打开txt文档并删除指定绝对路径下图片
这篇文章介绍了如何使用Python打开txt文档,删除文档中指定路径的图片,并提供了一段示例代码来展示这一过程。
37 1
|
2月前
|
计算机视觉 Python
Python实用记录(一):如何将不同类型视频按关键帧提取并保存图片,实现图片裁剪功能
这篇文章介绍了如何使用Python和OpenCV库从不同格式的视频文件中按关键帧提取图片,并展示了图片裁剪的方法。
101 0
|
1月前
|
JSON Linux 数据格式
Python模块:从入门到精通,只需一篇文章!
Python中的模块是将相关代码组织在一起的单元,便于重用和维护。模块可以是Python文件或C/C++扩展,Python标准库中包含大量模块,如os、sys、time等,用于执行各种任务。定义模块只需创建.py文件并编写代码,导入模块使用import语句。此外,Python还支持自定义模块和包,以及虚拟环境来管理项目依赖。
Python模块:从入门到精通,只需一篇文章!
|
1月前
|
测试技术 开发者 Python
对于Python中的异常要如何处理,raise关键字你真的了解吗?一篇文章带你从头了解
`raise`关键字在Python中用于显式引发异常,允许开发者在检测到错误条件时中断程序流程,并通过异常处理机制(如try-except块)接管控制。`raise`后可跟异常类型、异常对象及错误信息,适用于验证输入、处理错误、自定义异常、重新引发异常及测试等场景。例如,`raise ValueError(&quot;Invalid input&quot;)`用于验证输入数据,若不符合预期则引发异常,确保数据准确并提供清晰错误信息。此外,通过自定义异常类,可以针对特定错误情况提供更具体的信息,增强代码的健壮性和可维护性。
|
2月前
|
Python
Socket学习笔记(二):python通过socket实现客户端到服务器端的图片传输
使用Python的socket库实现客户端到服务器端的图片传输,包括客户端和服务器端的代码实现,以及传输结果的展示。
177 3
Socket学习笔记(二):python通过socket实现客户端到服务器端的图片传输
|
2月前
|
Python
Python实用记录(四):os模块-去后缀或者改后缀/指定目录下图片或者子目录图片写入txt/csv
本文介绍了如何使用Python的os模块来操作文件,包括更改文件后缀、分割文件路径和后缀、将指定目录下的所有图片写入txt文档,以及将指定目录下所有子目录中的图片写入csv文档,并为每个子目录分配一个标签。
31 1
|
2月前
|
编解码 UED Python
Python批量修改指定目录下图片的大小名文章
Python批量修改指定目录下图片的大小名文章
22 1
|
2月前
|
iOS开发 MacOS Python
Python编程小案例—利用flask查询本机IP归属并输出网页图片
Python编程小案例—利用flask查询本机IP归属并输出网页图片
29 1
|
2月前
|
Python
Python实现图片的拼接
Python实现图片的拼接
21 0