Python爬虫之美女图片分类

简介: 对爬取到的图片进行分类命名,下面开始了。一、首先给出URL地址www.wmpic.me/touxiang/nvsheng唯美图片二、下载图片,进行分析,并保存图片至本地,直接上代码import requestsfrom bs4...

对爬取到的图片进行分类命名,下面开始了。

一、首先给出URL地址www.wmpic.me/touxiang/nvsheng


img_781fcd3b42c2237ed41839ae4a550aba.png
唯美图片

二、下载图片,进行分析,并保存图片至本地,直接上代码

import requests

from bs4 import BeautifulSoup

import random

user_agent = [

        'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET               CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E)',

        'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11',

]

Yes_or_Not = ['y','n']

def download(url,folder,count=0):    #下载图片

    headers = {'User-Agent':random.choice(user_agent)}

    content = requests.get(url,headers=headers).content

    typ = random.choice(Yes_or_Not)  #机器随机选择是Y还是N

    path = folder + "\\" + typ + '_'+str(count)+'.jpg'  #图片格式

    with open(path,'wb') as f:

        f.write(content)  #写入并保存图片至本地文件

base_url = 'http://www.wmpic.me/touxiang/nvsheng/page/'

count = 1

for i in range(1,10):

    url = base_url + str(i)    #url地址

    headers = {'User_Agent':random.choice(user_agent)}

    html = requests.get(url,headers=headers).text

    soup = BeautifulSoup(html,'lxml')  #通过BeautifulSoup的lxml方法解析html

    for item in soup.select('li img'):  #解析定位到li img

        picture_url = item['src']

        if picture_url.find('215x185') != -1:  #215x185图片的宽度和高度

              if count <= 300:

                   download(picture_url,'train_pictures',count)    #保存图片至train_pictures文件夹下

                   print(picture_url)

                   count += 1

              else:

                    download(picture_url,'test_pictures',count)    #保存图片至test_pictures文件夹下

                    print(picture_url)

                   count += 1

三、运行结果


img_c5ecf8da173ac8e63113263a7aa2fbd0.png
图片URL


img_87088a847dbb30ae49f43f2a4330cc2c.png
存放图片的本地文件夹
img_b46038a3bb18ac5d2ffe1717109e695d.png
下载至本地分类好的图片

详细请参考(七)美女分类器

目录
相关文章
|
24天前
|
数据采集 存储 XML
Python爬虫:深入探索1688关键词接口获取之道
在数字化经济中,数据尤其在电商领域的价值日益凸显。1688作为中国领先的B2B平台,其关键词接口对商家至关重要。本文介绍如何通过Python爬虫技术,合法合规地获取1688关键词接口,助力商家洞察市场趋势,优化营销策略。
|
9天前
|
数据采集 JSON API
如何利用Python爬虫淘宝商品详情高级版(item_get_pro)API接口及返回值解析说明
本文介绍了如何利用Python爬虫技术调用淘宝商品详情高级版API接口(item_get_pro),获取商品的详细信息,包括标题、价格、销量等。文章涵盖了环境准备、API权限申请、请求构建和返回值解析等内容,强调了数据获取的合规性和安全性。
|
14天前
|
数据采集 存储 API
利用Python爬虫获取1688关键词接口全攻略
本文介绍如何使用Python爬虫技术合法合规地获取1688关键词接口数据,包括环境准备、注册1688开发者账号、获取Access Token、构建请求URL、发送API请求、解析HTML及数据处理存储等步骤,强调遵守法律法规和合理使用爬虫技术的重要性。
|
16天前
|
数据采集 Java Scala
淘宝图片爬虫:Scala与Curl的高效集成
淘宝图片爬虫:Scala与Curl的高效集成
|
21天前
|
数据采集 JSON 开发者
Python爬虫京东商品详情数据接口
京东商品详情数据接口(JD.item_get)提供商品标题、价格、品牌、规格、图片等详细信息,适用于电商数据分析、竞品分析等。开发者需先注册账号、创建应用并申请接口权限,使用时需遵循相关规则,注意数据更新频率和错误处理。示例代码展示了如何通过 Python 调用此接口并处理返回的 JSON 数据。
|
26天前
|
XML 数据采集 数据格式
Python 爬虫必备杀器,xpath 解析 HTML
【11月更文挑战第17天】XPath 是一种用于在 XML 和 HTML 文档中定位节点的语言,通过路径表达式选取节点或节点集。它不仅适用于 XML,也广泛应用于 HTML 解析。基本语法包括标签名、属性、层级关系等的选择,如 `//p` 选择所有段落标签,`//a[@href=&#39;example.com&#39;]` 选择特定链接。在 Python 中,常用 lxml 库结合 XPath 进行网页数据抓取,支持高效解析与复杂信息提取。高级技巧涵盖轴的使用和函数应用,如 `contains()` 用于模糊匹配。
|
28天前
|
数据采集 XML 存储
构建高效的Python网络爬虫:从入门到实践
本文旨在通过深入浅出的方式,引导读者从零开始构建一个高效的Python网络爬虫。我们将探索爬虫的基本原理、核心组件以及如何利用Python的强大库进行数据抓取和处理。文章不仅提供理论指导,还结合实战案例,让读者能够快速掌握爬虫技术,并应用于实际项目中。无论你是编程新手还是有一定基础的开发者,都能在这篇文章中找到有价值的内容。
|
27天前
|
数据采集 JavaScript 前端开发
Python爬虫能处理动态加载的内容吗?
Python爬虫可处理动态加载内容,主要方法包括:使用Selenium模拟浏览器行为;分析网络请求,直接请求API获取数据;利用Pyppeteer控制无头Chrome。这些方法各有优势,适用于不同场景。
|
1月前
|
数据采集 监控 搜索推荐
python爬虫的基本使用
本文介绍了Python爬虫的基本概念及其广泛应用,包括搜索引擎、数据挖掘、网络监控、舆情分析和信息聚合等领域。通过安装`urllib`和`BeautifulSoup`库,展示了如何编写简单代码实现网页数据的抓取与解析。爬虫技术在大数据时代的重要性日益凸显,为各行业提供了高效的数据获取手段。
36 1
|
1月前
|
数据采集 存储 XML
Python爬虫定义入门知识
Python爬虫是用于自动化抓取互联网数据的程序。其基本概念包括爬虫、请求、响应和解析。常用库有Requests、BeautifulSoup、Scrapy和Selenium。工作流程包括发送请求、接收响应、解析数据和存储数据。注意事项包括遵守Robots协议、避免过度请求、处理异常和确保数据合法性。Python爬虫强大而灵活,但使用时需遵守法律法规。