基于阿里云平台的人力资源流动大数据分析(二)

简介: 在这一部分,我们将依托于阿里云的MaxCompute和PAI平台,对人力资源流动数据进行数据清洗和数据探查。

在项目的这一部分,我们首先将数据导入阿里云MaxCompute平台,然后我依托于阿里云MaxCompute平台及PAI平台,对人力资源流动数据进行数据清洗和数据探查。
在MaxCompute中建表代码如下:
DROP TABLE IF EXISTS hr_analytics ;
CREATE TABLE IF NOT EXISTS hr_analytics
(
satisfaction_level DOUBLE
,last_evaluation DOUBLE
,number_project BIGINT
,average_montly_hours BIGINT
,time_spend_company BIGINT
,Work_accident BIGINT
,left1 BIGINT
,promotion_last_5years BIGINT
,position STRING
,salary_level STRING
)
;

然后,进行数据的缺失值处理,检查各个变量的空值数量:
SELECT sum(CASE WHEN satisfaction_level IS NULL THEN 1 ELSE 0 END) AS satisfaction_level
,sum(CASE WHEN last_evaluation IS NULL THEN 1 ELSE 0 END) AS last_evaluation
,sum(CASE WHEN number_project IS NULL THEN 1 ELSE 0 END) AS number_project
,sum(CASE WHEN average_montly_hours IS NULL THEN 1 ELSE 0 END) AS average_montly_hours
,sum(CASE WHEN time_spend_company IS NULL THEN 1 ELSE 0 END) AS time_spend_company
,sum(CASE WHEN work_accident IS NULL THEN 1 ELSE 0 END) AS work_accident
,sum(CASE WHEN left1 IS NULL THEN 1 ELSE 0 END) AS left1
,sum(CASE WHEN promotion_last_5years IS NULL THEN 1 ELSE 0 END) AS promotion_last_5years
,sum(CASE WHEN position IS NULL THEN 1 ELSE 0 END) AS position
,sum(CASE WHEN salary_level IS NULL THEN 1 ELSE 0 END) AS salary_level
FROM hr_analytics
;
检查发现,各项缺失值均为0,即无缺失值存在。

再检查数据的离群值。计算满意度,最近一次评价,参与项目数量,平均工作时间,在职时间,工伤次数的均值及标准差:
SELECT
AVG(satisfaction_level ) AS avg_satisfaction_level
,STDDEV(satisfaction_level ) AS std_satisfaction_level
,AVG(last_evaluation ) AS avg_last_evaluation
,STDDEV(last_evaluation ) AS std_last_evaluation
,AVG(number_project ) AS avg_number_project
,STDDEV(number_project ) AS std_number_project
,AVG(average_montly_hours)AS avg_average_montly_hours
,STDDEV(average_montly_hours ) AS std_average_montly_hours
,AVG(time_spend_company )AS avg_time_spend_company
,STDDEV(time_spend_company ) AS std_time_spend_company
,AVG(work_accident)AS avg_work_accident
,STDDEV(work_accident ) AS std_work_accident
FROM hr_analytics
;

然后利用3σ准则计算离群区间:(μ-3σ,μ+3σ),发现只有time_spend_company 含有离群值,离群值个数为376,离群率为0.4%。根据实际情况,公司员工在职时间的离群数量不多。可能因为突发情况,导致的在时间过长,本实验的目的为预测离职情况,而在职时间过长或过短更有可能影响离职,故不考虑剔除或替换。

然后利用PAI平台进行线性关系检测,得到决定系数R2为0.01,极为接近0,拟合优度很低。再绘制残差图,得到图形如下:
image.png

如图所示,图内数值随机分布 说明数据是线性的,即满意度和最后一次评价间有线性关系。

目录
相关文章
|
14天前
|
存储 消息中间件 监控
【Flume】Flume在大数据分析领域的应用
【4月更文挑战第4天】【Flume】Flume在大数据分析领域的应用
|
27天前
|
Cloud Native 数据处理 云计算
探索云原生技术在大数据分析中的应用
随着云计算技术的不断发展,云原生架构作为一种全新的软件开发和部署模式,正逐渐引起企业的广泛关注。本文将探讨云原生技术在大数据分析领域的应用,介绍其优势与挑战,并探讨如何利用云原生技术提升大数据分析的效率和可靠性。
|
1月前
|
存储 消息中间件 大数据
Go语言在大数据处理中的实际应用与案例分析
【2月更文挑战第22天】本文深入探讨了Go语言在大数据处理中的实际应用,通过案例分析展示了Go语言在处理大数据时的优势和实践效果。文章首先介绍了大数据处理的挑战与需求,然后详细分析了Go语言在大数据处理中的适用性和核心技术,最后通过具体案例展示了Go语言在大数据处理中的实际应用。
|
1月前
|
机器学习/深度学习 人工智能 算法
【AAAI 2024】再创佳绩!阿里云人工智能平台PAI多篇论文入选
阿里云人工智能平台PAI发表的多篇论文在AAAI-2024上正式亮相发表。AAAI是由国际人工智能促进协会主办的年会,是人工智能领域中历史最悠久、涵盖内容最广泛的国际顶级学术会议之一,也是中国计算机学会(CCF)推荐的A类国际学术会议。论文成果是阿里云与浙江大学、华南理工大学联合培养项目等共同研发,深耕以通用人工智能(AGI)为目标的一系列基础科学与工程问题,包括多模态理解模型、小样本类增量学习、深度表格学习和文档版面此次入选意味着阿里云人工智能平台PAI自研的深度学习算法达到了全球业界先进水平,获得了国际学者的认可,展现了阿里云人工智能技术创新在国际上的竞争力。
|
8天前
|
机器学习/深度学习 人工智能 安全
Azure Databricks实战:在云上轻松进行大数据分析与AI开发
【4月更文挑战第8天】Databricks在大数据分析和AI开发中表现出色,简化流程并提高效率。文中列举了三个应用场景:数据湖分析、实时流处理和AI机器学习,并阐述了Databricks的一体化平台、云原生弹性及企业级安全优势。博主认为,Databricks提升了研发效能,无缝集成Azure生态,并具有持续创新潜力,是应对大数据挑战和加速AI创新的理想工具。
33 0
|
17天前
|
机器学习/深度学习 分布式计算 数据挖掘
阿里云 MaxCompute MaxFrame 开启免费邀测,统一 Python 开发生态
阿里云 MaxCompute MaxFrame 正式开启邀测,统一 Python 开发生态,打破大数据及 AI 开发使用边界。
196 1
|
21天前
|
机器学习/深度学习 人工智能 数据可视化
基于Python的数据可视化技术在大数据分析中的应用
传统的大数据分析往往注重数据处理和计算,然而数据可视化作为一种重要的技术手段,在大数据分析中扮演着至关重要的角色。本文将介绍如何利用Python语言中丰富的数据可视化工具,结合大数据分析,实现更直观、高效的数据展示与分析。
|
28天前
|
存储 NoSQL 大数据
新型数据库技术在大数据分析中的应用与优势探究
随着大数据时代的到来,传统数据库技术已经无法满足海量数据处理的需求。本文将探讨新型数据库技术在大数据分析中的应用情况及其所带来的优势,为读者解析数据库领域的最新发展趋势。
|
1月前
|
缓存 运维 监控
应用研发平台EMAS 常见问题之用华为的推送界面阿里云收不到如何解决
应用研发平台EMAS(Enterprise Mobile Application Service)是阿里云提供的一个全栈移动应用开发平台,集成了应用开发、测试、部署、监控和运营服务;本合集旨在总结EMAS产品在应用开发和运维过程中的常见问题及解决方案,助力开发者和企业高效解决技术难题,加速移动应用的上线和稳定运行。
382 2
|
25天前
|
Ubuntu JavaScript 关系型数据库
在阿里云Ubuntu 20.04服务器中搭建一个 Ghost 博客
在阿里云Ubuntu 20.04服务器上部署Ghost博客的步骤包括创建新用户、安装Nginx、MySQL和Node.js 18.x。首先,通过`adduser`命令创建非root用户,然后安装Nginx和MySQL。接着,设置Node.js环境,下载Nodesource GPG密钥并安装Node.js 18.x。之后,使用`npm`安装Ghost-CLI,创建Ghost安装目录并进行安装。配置过程中需提供博客URL、数据库连接信息等。最后,测试访问前台首页和后台管理页面。确保DNS设置正确,并根据提示完成Ghost博客的配置。
在阿里云Ubuntu 20.04服务器中搭建一个 Ghost 博客