《大数据分析原理与实践》一一3.3 相关分析

简介: 本节书摘来自华章出版社《大数据分析原理与实践》一 书中的第3章,第3.3节,作者:王宏志 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.3 相关分析
相关关系是一种非确定性的关系,例如,以X和Y分别表示一个人的身高和体重,或分别表示每公顷施肥量与每公顷小麦产量,则X与Y显然有关系,而又没有确切到可由其中的一个去精确地决定另一个的程度,这就是相关关系。在一些问题中,不仅经常需要考察两个变量之间的相关程度,而且还经常需要考察多个变量与多个变量之间即两组变量之间的相关关系。典型相关分析就是研究两组变量之间相关程度的一种多元统计分析方法。
典型相关分析是研究两组变量之间相关关系的一种统计分析方法。为了研究两组变量X1,X2,…,Xp和Y1,Y2,…,Yq之间的相关关系,采用类似于主成分分析(将在9.2节中介绍)的方法,在两组变量中,分别选取若干有代表性的变量组成有代表性的综合指数,通过研究这两组变量之间的相关关系,来代替这两组变量之间的相关关系,这些综合指数称为典型变量。
其基本思想是,首先在每组变量中找到变量的线性组合,使得两组线性组合之间具有最大的相关系数。然后选取和最初挑选的这对线性组合不相关的线性组合,使其配对,并选取相关系数最大的一对,如此继续下去,直到两组变量之间的相关性被提取完毕为止。被选取的线性组合配对称为典型变量,它们的相关系数称为典型相关系数。典型相关系数度量了这两组变量之间联系的强度。image

我们用一个例子说明相关分析。为了研究家庭特征与家庭消费之间的关系,调查了70个家庭的下面两组变量之间的关系,见表3-6~表3-10。
x1:每年去餐馆就餐的频率,x2:每年外出看电影的频率。
y1:户主的年龄,y2:家庭的年收入,y3:户主受教育程度。
U1=0.7689x1+0.2721x2 V1=0.0491y1+0.8975y2+0.1900y3
U2=-1.4787x1+1.6443x2 V2=1.0003y1-0.5837y2+0.2956y3
两个反映消费的指标与第一对典型变量中U1的相关系数分别为0.9866和0.8872,可以看出U1可以作为消费特性的指标,第一对典型变量中V1与y2之间的相关系数为0.9822,可见典型变量V1主要代表了家庭收入,U1和V1的相关系数为0.6879,这就说明家庭的消费与一个家庭的收入之间关系是很密切的;第二对典型变量中U2和x2的相关系数为0.4614,可以看出U2可以作为文化消费特性的指标,第二对典型变量中V2与y1和y3之间的相关系数分别为0.8464和0.3013,可见典型变量V2主要代表了家庭成员的年龄特征和教育程度,U2和V2的相关系数是0.1869,说明文化程度与年龄和受教育程度之间的相关性。image

基于阿里云的相关分析
下面我们用一个例子来说明如何基于阿里云平台进行相关分析。
Center for World University Rankings组织对全世界大部分大学进行了排名,其排名根据教育质量、教师质量、毕业生就业情况、出版刊物数量等一系列指标进行评分。我们获取该数据集并对其中的特征进行相关分析,从而了解每个特征之间的关系。前10条数据以及部分特征如表3-10所示。
image

我们想要计算出数值型特征之间的相关关系,首先进行数据导入。新建项目,自定义表名cwurdata,在“添加字段页面”添加相应的字段及字段类型(一旦表建成,字段名及字段类型不可变。此后的字段信息设置均参考此处),如图3-17所示。
建表成功后,在阿里云大数据开发平台“数据开发”层级下,单击“更多功能”按钮, 选择“导入本地数据”(注意:本地数据中字段值内不能含有分隔符,阿里云平台无法智能识别)如图3-18所示。
image

图3-17 添加字段及字段类型
image

图3-18 本地数据导入
若本地数据文件中的字段与表中字段不匹配,需手动进行字段匹配,如图3-19所示。
最后提示导入成功。
其分析组件布局如图3-20所示。其中,在相关系数矩阵组件中选择想要进行相关系数计算的列。设置完毕后,运行组件。运行成功后,在相关系数矩阵组件上右击,选择“查看数据”得到相关系数矩阵,如图3-21所示。
从结果数据可以看出,学校得分与教师质量最为相关,教育质量与教师质量最为相关,毕业生就业情况与教育质量最为相关,影响力与出版刊物数量最为相关。
image

图3-19 字段匹配
image
image

图3-21 相关系数矩阵

相关文章
|
3天前
|
SQL 分布式计算 数据挖掘
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
川航选择引入 SelectDB 建设湖仓一体大数据分析引擎,取得了数据导入效率提升 3-6 倍,查询分析性能提升 10-18 倍、实时性提升至 5 秒内等收益。
从湖仓分离到湖仓一体,四川航空基于 SelectDB 的多源数据联邦分析实践
|
4月前
|
存储 机器学习/深度学习 SQL
大数据处理与分析技术
大数据处理与分析技术
291 2
|
7天前
|
机器学习/深度学习 数据采集 分布式计算
大数据分析中的机器学习基础:从原理到实践
大数据分析中的机器学习基础:从原理到实践
46 3
|
2月前
|
数据采集 存储 机器学习/深度学习
数据的秘密:如何用大数据分析挖掘商业价值
数据的秘密:如何用大数据分析挖掘商业价值
61 9
|
3月前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
302 15
|
3月前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
3月前
|
分布式计算 DataWorks 搜索推荐
用户画像分析(MaxCompute简化版)
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。
|
4月前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
240 4
|
4月前
|
关系型数据库 分布式数据库 数据库
PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具
在数字化时代,企业面对海量数据的挑战,PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具。它不仅支持高速数据读写,还通过数据分区、索引优化等策略提升分析效率,适用于电商、金融等多个行业,助力企业精准决策。
87 4
|
4月前
|
机器学习/深度学习 分布式计算 算法
【大数据分析&机器学习】分布式机器学习
本文主要介绍分布式机器学习基础知识,并介绍主流的分布式机器学习框架,结合实例介绍一些机器学习算法。
642 5