Python爬虫系列2-采集2022年拉钩网最新的IT岗位招聘数据

简介: 2022年转眼已过半,再过半年即将迎来2023年,我坚信疫情早晚会过去,2023年相信会是一个互联网全新的时代:物联网时代,古语云:十年磨一剑,古时候烽火传递、飞鸽传书,交流信息很不方便。古人就幻想着有千里眼和顺风耳。能看到千里之外的地方和听到很远地方的声音。从2000年至2010年这十年,古人的愿望变成了现实;我们见证了全智能手机的发展历程;以及2010年至2020年的移动互联网从早期的2G网络过渡至3G到现在的4G网络甚至到目前已经慢慢普及但尚未成熟的5G网络的发展历程;我们也坚信未来的万物互联距离现如今的我们也并不是一件很遥远的事情。如果本文对你有些帮助-还请点赞👍关注!

序言

image.png

- 实战

分析网站结构,确定我们要抓取的数据内容

image.png

通过 Chrome 浏览器右键检查查看 network 并对网站结构进行分析发现我们在 ajax 请求界面中,可以看到这些返回的数据正是网站页面中Python岗位招聘的详情信息。

之后我们在查看headers的时候发现该网站请求的方式是Post请求,也就是说在请求的过程中需要携带Form Data数据。

image.png
这一块在之前的一篇博客中我也分析过,甚至请求的是另一种Post携带方式。传送门: https://developer.aliyun.com/article/973321?spm=a2c6h.13262185.profile.15.6c2f5dfekQtmF5

在多次对网页界面进行分析评测的时候,发现在点击第二页的时候Form Data的携带格式发生了变化。可以看到 pn=2 肯定是咱们的当前的页数。

image.png

第一步:不管三七二十一 ,先请求拿到数据在说


import requests

url = 'https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false'
# 发送携带的数据
form_data = {
    'first': 'false',
    'pn': 2,
    'kd': 'python',
}

result=requests.post(url,data=form_data).text
print(result)

OUT:
{"status":false,"msg":"您操作太频繁,请稍后再访问","clientIp":"113.246.154.37","state":2408}

在直接请求界面的时候我们发现网站有反爬机制,不让我们请求《"msg":"您操作太频繁,请稍后再访问"》,我们携带请求头伪装一下,不行
image.png

这里我用了一种可以快速生成headers以及cookie的工具:https://curl.trillworks.com/ 用法如下:
image.png

image.png

我怀疑该网站具有多重反爬策略,当我在次添加cookies试一下的时候;我们发现数据可以正常获取了;难道就这么简单就解决拉勾网数据获取的问题了吗?然而机智的我察觉到事情并没有想像的那么简单;

image.png

我的最终解决方案是共用 session,就是说我们在每次请求界面的时候先获取session然后原地更新我们的session之后在进行数据的抓取,最后拿到想要的数据。
image.png

第二步:对数据进行分解


import requests
import time


# 第一步 : 请求数据
def get_requests_data(url, form_data):
    # 伪装浏览器
    headers = {
        'Origin': 'https://www.lagou.com',
        'X-Anit-Forge-Code': '0',
        'Accept-Encoding': 'gzip, deflate, br',
        'Accept-Language': 'zh-CN,zh;q=0.9',
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.131 Safari/537.36',
        'Content-Type': 'application/x-www-form-urlencoded; charset=UTF-8',
        'Accept': 'application/json, text/javascript, */*; q=0.01',
        'X-Requested-With': 'XMLHttpRequest',
        'Connection': 'keep-alive',
        'X-Anit-Forge-Token': 'None',
    }
    time.sleep(3)
    # 获取session
    session_data = requests.session()
    # 更新
    session_data.headers.update(headers)
    session_data.get("https://www.lagou.com/jobs/list_Python?px=new&city=%E5%85%A8%E5%9B%BD")
    # 使用session发送post请求获取url及携带的参数保存到本地session中。
    content = session_data.post(url=url, data=form_data)
    result_data_list = result['content']['positionResult']['result']
    for item_data in result_data_list:
        list_data = []
        list_data.append(item_data['city'])  # 岗位对应城市
        list_data.append(item_data['companyFullName'])  # 公司全名
        list_data.append(item_data['companyLabelList'])  # 福利待遇
        list_data.append(item_data['district'])  # 工作地点
        list_data.append(item_data['education'])  # 学历要求
        list_data.append(item_data['formatCreateTime'])  # 发布时间
        list_data.append(item_data['positionName'])  # 职位名称
        list_data.append(item_data['salary'])  # 薪资
    return list_data


if __name__ == '__main__':

    url = 'https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false'

    # 发送携带的数据
    form_data = {
        'first': 'false',
        'pn': 2,
        'kd': 'python',
    }

    info_list=get_requests_data(url, form_data)
    print(info_list)

运行结果:
image.png

第三步:对解析数据进行存储

这里通过 excel 表格的形式进行存储;

需要 pip install xlwt 安装一下 xlwt 库.

    import xlwt

    info_result = []
    title = ['城市', '公司名称', '福利待遇', '工作地点', '学历要求', '发布时间', '职位名称', '薪资']
    info_result.append(title)
    # 获取请求返回数据
    info_list=get_requests_data(url, form_data)
    
    # 创建workbook,即excel
    workbook = xlwt.Workbook(encoding='utf-8')
    worksheet = workbook.add_sheet('lg_lagou', cell_overwrite_ok=True)
    # 遍历 枚举
    for item, title_data in enumerate(info_list):
        for item_data, content_data in enumerate(title_data):
            worksheet.write(item, item_data, content_data)
    workbook.save('lg_lagou.xls')

最终显示数据内容

image.png

如果本文对你学习有所帮助-可以点赞👍+ 关注!将持续更新更多新的文章。

支持原创。感谢!

相关文章
|
数据采集 Web App开发 数据安全/隐私保护
实战:Python爬虫如何模拟登录与维持会话状态
实战:Python爬虫如何模拟登录与维持会话状态
|
数据采集 Web App开发 数据可视化
Python零基础爬取东方财富网股票行情数据指南
东方财富网数据稳定、反爬宽松,适合爬虫入门。本文详解使用Python抓取股票行情数据,涵盖请求发送、HTML解析、动态加载处理、代理IP切换及数据可视化,助你快速掌握金融数据爬取技能。
8875 1
|
Java 数据挖掘 数据处理
(Pandas)Python做数据处理必选框架之一!(一):介绍Pandas中的两个数据结构;刨析Series:如何访问数据;数据去重、取众数、总和、标准差、方差、平均值等;判断缺失值、获取索引...
Pandas 是一个开源的数据分析和数据处理库,它是基于 Python 编程语言的。 Pandas 提供了易于使用的数据结构和数据分析工具,特别适用于处理结构化数据,如表格型数据(类似于Excel表格)。 Pandas 是数据科学和分析领域中常用的工具之一,它使得用户能够轻松地从各种数据源中导入数据,并对数据进行高效的操作和分析。 Pandas 主要引入了两种新的数据结构:Series 和 DataFrame。
923 0
|
JSON 算法 API
Python采集淘宝商品评论API接口及JSON数据返回全程指南
Python采集淘宝商品评论API接口及JSON数据返回全程指南
|
JSON API 数据安全/隐私保护
Python采集淘宝拍立淘按图搜索API接口及JSON数据返回全流程指南
通过以上流程,可实现淘宝拍立淘按图搜索的完整调用链路,并获取结构化的JSON商品数据,支撑电商比价、智能推荐等业务场景。
|
数据采集 存储 JSON
Python爬虫常见陷阱:Ajax动态生成内容的URL去重与数据拼接
Python爬虫常见陷阱:Ajax动态生成内容的URL去重与数据拼接
|
数据采集 存储 JavaScript
解析Python爬虫中的Cookies和Session管理
Cookies与Session是Python爬虫中实现状态保持的核心。Cookies由服务器发送、客户端存储,用于标识用户;Session则通过唯一ID在服务端记录会话信息。二者协同实现登录模拟与数据持久化。
|
数据采集 机器学习/深度学习 人工智能
Python:现代编程的首选语言
Python:现代编程的首选语言
1939 102
|
数据采集 机器学习/深度学习 算法框架/工具
Python:现代编程的瑞士军刀
Python:现代编程的瑞士军刀
668 104
|
人工智能 自然语言处理 算法框架/工具
Python:现代编程的首选语言
Python:现代编程的首选语言
543 103

热门文章

最新文章

推荐镜像

更多