浅析python爬虫(上)

简介: 学习的最大理由是想摆脱平庸,早一天就多一份人生的精彩;迟一天就多一天平庸的困扰。各位小伙伴,如果您:

学习的最大理由是想摆脱平庸,早一天就多一份人生的精彩;迟一天就多一天平庸的困扰。各位小伙伴,如果您:

想系统/深入学习某技术知识点…

一个人摸索学习很难坚持,想组团高效学习…

想写博客但无从下手,急需写作干货注入能量…

热爱写作,愿意让自己成为更好的人…


前言

在日常刷一些视频的时候,总能看见一些标题为《震惊,python查找1000张美女图片》、《重磅消息:以后这些资料都不用再付钱了》......等等UC震惊部的标题


虽然夸张,但这些视频无一不是使用了python爬虫,这也从侧面衬托出爬虫功能的强大。


有的刚接触爬虫的小白会很激动,因为这意味着他们可以去“随心所欲”地去爬取任意资料,同时还为此暗自害怕与窃喜。


事实上,借用某大佬的比喻来说:爬虫就像是一把菜刀,拿这把菜刀做菜抑或是伤人,取决于使用者。


爬虫的分类(不重要)

由此,爬虫中也有了分类,分别是善意爬虫与恶意爬虫。


善意爬虫是在不破坏网站的前提下,合法合规地搜集信息。


恶意爬虫则是影响网站的正常运营,模拟大量浏览量达到目的(例如抢票),但每个网站对于访问量的数量都不是无限的,这种恶意爬虫很容易使网站宕机。


相关技术介绍(重要)

1HTML

HTML又称超文本标记语言,和大佬们平时接触的语言不同,HTML并没有逻辑结构,只使用标签来进行网站构建。


什么是 HTML?

HTML 是用来描述网页的一种语言。


  • HTML 指的是超文本标记语言 (Hyper Text Markup Language)
  • HTML 不是一种编程语言,而是一种标记语言 (markup language)
  • 标记语言是一套标记标签 (markup tag)
  • HTML 使用标记标签来描述网页

2d8f826c21774d12a67743346cc6f246.png


HTML中的大部分标签都是有始有终的,例如<h1></h1>、<body></body>


CSS

CSS 是一种描述 HTML 文档样式的语言。


CSS 描述应该如何显示 HTML 元素。


例如


body {

 background-color: lightblue;

}

h1 {

 color: white;

 text-align: center;

}

p {

 font-family: verdana;

 font-size: 20px;

}

输出如图


5e2c2aa6d371479e908257f255543ebe.png


网络爬虫(又被称为网页蜘蛛,网络机器人)就是模拟浏览器发送网络请求,接收请求响应,一种按照一定的规则,自动地抓取互联网信息的程序。 原则上,只要是浏览器(客户端)能做的事情,爬虫都能够做。 互联网大数据时代,给予我们的是生活的便利以及海量数据爆炸式的出现在网络中。(来自华为开发者论坛)

请求头与响应头

请求头中最常见的一些重要内容(爬虫需要):


1、User-Agent:请求载体的身份标识(用啥发送的请求)


2、Referer:防盗链(这次请求是从哪个页面来的?反爬会用到)


3、cookie:本地字符串数据信息(用户登录信息,反爬的token)


响应头中一些重要内容:


1、cookie:本地字符串数据信息(用户登录信息,反爬的token)


2、各种神奇的莫名其妙的字符串(这个需要经验了,一般是token字样,防止各种攻击和反爬)


未完待续


目录
相关文章
|
1月前
|
数据采集 存储 XML
Python爬虫:深入探索1688关键词接口获取之道
在数字化经济中,数据尤其在电商领域的价值日益凸显。1688作为中国领先的B2B平台,其关键词接口对商家至关重要。本文介绍如何通过Python爬虫技术,合法合规地获取1688关键词接口,助力商家洞察市场趋势,优化营销策略。
|
2月前
|
数据采集 Web App开发 监控
高效爬取B站评论:Python爬虫的最佳实践
高效爬取B站评论:Python爬虫的最佳实践
|
2月前
|
数据采集 缓存 定位技术
网络延迟对Python爬虫速度的影响分析
网络延迟对Python爬虫速度的影响分析
|
3天前
|
数据采集 JSON 数据格式
Python爬虫:京东商品评论内容
京东商品评论接口为商家和消费者提供了重要工具。商家可分析评论优化产品,消费者则依赖评论做出购买决策。该接口通过HTTP请求获取评论内容、时间、点赞数等数据,支持分页和筛选好评、中评、差评。Python示例代码展示了如何调用接口并处理返回的JSON数据。应用场景包括产品优化、消费者决策辅助、市场竞争分析及舆情监测。
|
15天前
|
数据采集 供应链 API
Python爬虫与1688图片搜索API接口:深度解析与显著收益
在电子商务领域,数据是驱动业务决策的核心。阿里巴巴旗下的1688平台作为全球领先的B2B市场,提供了丰富的API接口,特别是图片搜索API(`item_search_img`),允许开发者通过上传图片搜索相似商品。本文介绍如何结合Python爬虫技术高效利用该接口,提升搜索效率和用户体验,助力企业实现自动化商品搜索、库存管理优化、竞品监控与定价策略调整等,显著提高运营效率和市场竞争力。
58 3
|
26天前
|
数据采集 存储 缓存
如何使用缓存技术提升Python爬虫效率
如何使用缓存技术提升Python爬虫效率
|
27天前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
1月前
|
数据采集 JSON API
如何利用Python爬虫淘宝商品详情高级版(item_get_pro)API接口及返回值解析说明
本文介绍了如何利用Python爬虫技术调用淘宝商品详情高级版API接口(item_get_pro),获取商品的详细信息,包括标题、价格、销量等。文章涵盖了环境准备、API权限申请、请求构建和返回值解析等内容,强调了数据获取的合规性和安全性。
|
1月前
|
数据采集 存储 API
利用Python爬虫获取1688关键词接口全攻略
本文介绍如何使用Python爬虫技术合法合规地获取1688关键词接口数据,包括环境准备、注册1688开发者账号、获取Access Token、构建请求URL、发送API请求、解析HTML及数据处理存储等步骤,强调遵守法律法规和合理使用爬虫技术的重要性。
|
1月前
|
数据采集 JSON 开发者
Python爬虫京东商品详情数据接口
京东商品详情数据接口(JD.item_get)提供商品标题、价格、品牌、规格、图片等详细信息,适用于电商数据分析、竞品分析等。开发者需先注册账号、创建应用并申请接口权限,使用时需遵循相关规则,注意数据更新频率和错误处理。示例代码展示了如何通过 Python 调用此接口并处理返回的 JSON 数据。

热门文章

最新文章