Apache Spark机器学习3.2 整体视图的方法

简介:

3.2 整体视图的方法


正如上一节讨论的,本节我们将选择分析的方法或模型(方程)来完成从商业实例到机器学习方法的映射。

要评估影响销售团队成功的不同因素,我们有很多方法可以使用。作为例子,我们选择易于解释和在Spark上易于实现的三个模型:(a)回归模型,(b)结构方程模型和

(c)决策树。

选择好分析方法或模型后,我们需要准备因变量和编程。后续几节将详细介绍。

3.2.1 回归模型

为了在Spark上使用回归模型,我们需要关注以下3点:

线性回归或是逻辑回归

回归方法是最成熟和最广泛使用的模型,主要用于表示不同变量对一个因变量的影响。使用线性回归方法还是逻辑回归方法主要取决于变量间的关系是线性还是非线性。这里,我们对变量间的关系不是很确定,因此将使用两个方法,根据他们的结果来选择部署哪个。

准备因变量

为了使用逻辑回归方法,我们需要通过中值法对目标变量或因变量(销售团队的成功变量,目前从0到100)重新编码为0或1。

准备编程

在MLlib中,我们可以使用下面的代码进行回归建模。现在使用Spark MLlib中的随机梯度下降法进行线性回归建模。

 

对于逻辑回归,我们使用下面的代码:

 

更多关于如何使用MLlib进行线性回归建模的信息,请访问:http://spark.apache.org/docs/latest/mllib-linear-methods.html#linear-least-squares-lasso-and-ridge-regression。

在R语言环境中,我们可以使用lm函数进行线性回归,使用glm函数进行逻辑回归,设置 family=binomial()。

3.2.2 SEM方法

为了在Spark上进行结构方程建模(Structural Equation Modeling,SEM),我们需要关注以下3点:

SEM介绍说明

结构方程建模可以看作是线性回归建模的扩展,因其由几个与回归方程类似的线性方程组成。然而,该模型同时估计所有方程,并考虑方程间的内部关系,因此较回归模型有更少的偏差。结构方程建模包括结构化建模和潜在变量建模两部分,而我们只使用结构化建模。

准备因变量

我们可以使用销售团队成功变量(范围从0到100)作为我们的目标变量。

准备编程

我们将使用Databricks环境下的R notebook进行编程,并使用R语言的SEM包。虽然有很多结构方程建模包可以选择,例如lavaan,但是我们在本项目中还是从易于学习角度出发使用SEM包。

我们使用install. packages("sem", repos="http://R-Forge.R-project.org")方法将SEM包加载到R notebook环境。接下来,我们执行R语言代码library(sem)。

之后,我们使用specify.model()函数在R notebook环境中指定模型,代码如下:

 

3.2.3 决策树

为了在Spark上进行决策树建模,我们需要关注以下3点:

决策树选择

决策树主要用于分类场景建模,在我们的例子中,决策树逐一将它们分为成功或者失败。决策树也是一个非常成熟和广泛使用的方法。决策树存在过拟合问题,因此需要后向归一化来消除过拟合。正因为如此,我们只使用简单的线性决策树,而不是冒昧地使用更加复杂的决策树,例如随机森林算法。

准备因变量

为了使用决策树模型,我们将销售团队的级别分为两类:成功或者失败。这与我们使用逻辑回归时一样。

准备编程

对于MLlib,我们可以使用如下代码:

 

更多关于MLlib上使用决策树的信息,请访问:http://spark. apache.org/docs/latest/mllib-decision-tree.html。

使用Spark上的R notebook,我们使用R语言的rpart包中的rpart函数进行计算。对于rpart函数,我们需要指定分类器和所有需要使用的特征。

相关文章
|
机器学习/深度学习 分布式计算 大数据
阿里云 EMR Serverless Spark 在微财机器学习场景下的应用
面对机器学习场景下的训练瓶颈,微财选择基于阿里云 EMR Serverless Spark 建立数据平台。通过 EMR Serverless Spark,微财突破了单机训练使用的数据规模瓶颈,大幅提升了训练效率,解决了存算分离架构下 Shuffle 稳定性和性能困扰,为智能风控等业务提供了强有力的技术支撑。
935 15
|
分布式计算 大数据 Apache
利用.NET进行大数据处理:Apache Spark与.NET for Apache Spark
【10月更文挑战第15天】随着大数据成为企业决策和技术创新的关键驱动力,Apache Spark作为高效的大数据处理引擎,广受青睐。然而,.NET开发者面临使用Spark的门槛。本文介绍.NET for Apache Spark,展示如何通过C#和F#等.NET语言,结合Spark的强大功能进行大数据处理,简化开发流程并提升效率。示例代码演示了读取CSV文件及统计分析的基本操作,突显了.NET for Apache Spark的易用性和强大功能。
646 1
|
分布式计算 大数据 Spark
Spark大数据处理:技术、应用与性能优化(全)PDF书籍推荐分享
《Spark大数据处理:技术、应用与性能优化》深入浅出介绍Spark核心,涵盖部署、实战与性能调优,适合初学者。作者基于微软和IBM经验,解析Spark工作机制,探讨BDAS生态,提供实践案例,助力快速掌握。书中亦讨论性能优化策略。[PDF下载链接](https://zhangfeidezhu.com/?p=347)。![Spark Web UI](https://img-blog.csdnimg.cn/direct/16aaadbb4e13410f8cb2727c3786cc9e.png#pic_center)
761 1
Spark大数据处理:技术、应用与性能优化(全)PDF书籍推荐分享
|
分布式计算 大数据 数据处理
Apache Spark在大数据处理中的应用
Apache Spark是大数据处理的热门工具,由AMPLab开发并捐赠给Apache软件基金会。它以内存计算和优化的执行引擎著称,提供比Hadoop更快的处理速度,支持批处理、交互式查询、流处理和机器学习。Spark架构包括Driver、Master、Worker Node和Executor,核心组件有RDD、DataFrame、Dataset、Spark SQL、Spark Streaming、MLlib和GraphX。文章通过代码示例展示了Spark在批处理、交互式查询和实时数据处理中的应用,并讨论了其优势(高性能、易用性、通用性和集成性)和挑战。【6月更文挑战第11天】
843 6
|
分布式计算 Hadoop 大数据
大数据处理框架在零售业的应用:Apache Hadoop与Apache Spark
【8月更文挑战第20天】Apache Hadoop和Apache Spark为处理海量零售户数据提供了强大的支持
545 0
|
分布式计算 Serverless 数据处理
EMR Serverless Spark 实践教程 | 通过 Apache Airflow 使用 Livy Operator 提交任务
Apache Airflow 是一个强大的工作流程自动化和调度工具,它允许开发者编排、计划和监控数据管道的执行。EMR Serverless Spark 为处理大规模数据处理任务提供了一个无服务器计算环境。本文为您介绍如何通过 Apache Airflow 的 Livy Operator 实现自动化地向 EMR Serverless Spark 提交任务,以实现任务调度和执行的自动化,帮助您更有效地管理数据处理任务。
978 0
|
机器学习/深度学习 分布式计算 API
技术好文:Spark机器学习笔记一
技术好文:Spark机器学习笔记一
353 0
|
人工智能 数据处理 API
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
Apache Flink Agents 是由阿里云、Ververica、Confluent 与 LinkedIn 联合推出的开源子项目,旨在基于 Flink 构建可扩展、事件驱动的生产级 AI 智能体框架,实现数据与智能的实时融合。
1770 6
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
|
存储 Cloud Native 数据处理
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
本文整理自阿里云资深技术专家、Apache Flink PMC 成员梅源在 Flink Forward Asia 新加坡 2025上的分享,深入解析 Flink 状态管理系统的发展历程,从核心设计到 Flink 2.0 存算分离架构,并展望未来基于流批一体的通用增量计算方向。
877 0
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式

热门文章

最新文章

推荐镜像

更多