EMR Serverless Spark PySpark流任务体验报告

本文涉及的产品
对象存储 OSS,OSS 加速器 50 GB 1个月
简介: 阿里云EMR Serverless Spark是一款全托管的云原生大数据计算服务,旨在简化数据处理流程,降低运维成本。测评者通过EMR Serverless Spark提交PySpark流任务,体验了从环境准备、集群创建、网络连接到任务管理的全过程。通过这次测评,可以看出阿里云EMR Serverless Spark适合有一定技术基础的企业,尤其是需要高效处理大规模数据的场景,但新用户需要投入时间和精力学习和适应。

一、引言

在当今的大数据时代,数据处理和分析已成为企业运营不可或缺的一部分。阿里云EMR Serverless Spark作为一款全托管的云原生计算产品,旨在为企业提供高效、便捷的数据处理与分析服务。本次测评将重点围绕通过EMR Serverless Spark提交PySpark流任务的体验进行,希望能够帮助大家了解该产品的实际应用效果。

二、产品概述

阿里云EMR Serverless Spark是一款云原生、全托管的Spark计算产品,它为企业提供了围绕Spark任务的一站式开发、调试、调度以及运维等服务。该产品无需用户管理基础设施,能够自动伸缩资源,满足各种规模的数据处理需求。同时,EMR Serverless Spark还提供了丰富的生态系统支持,包括PySpark等编程接口,使得数据处理和分析变得更加灵活和高效。

三、产品体验

由于这次测评官方没有提供可直接使用的案例和教程,那么我们从产品文档中选择一种实践教程作为这次的主要体验。

1.png


1. 环境准备

根据文档的要求,在进行这个操作之前,我们需要确保已经完成了阿里云账号的注册和登录,以及EMR Serverless Spark的开通和配置。接下来我开始创建工作空间。进入工作台页面,由于是第一次使用,需要授权后才能进一步操作。


2.png

3.png


完成授权之后,我们可以按照操作文档,开始进入Spark页面,点击创建工作空间,然后配置相关参数即可。


4.png

5.png

6.png



创建完成之后,我们可以在EMR Serverless > Spark中找到我们创建的工作空间。

7.png


2. 创建集群

完成工作空间创建之后,我们开始创建集群。登录E-MapReduce控制台在顶部菜单栏处,根据实际情况选择地域和资源组。在创建过程中出现了一些小插曲,问题的原因是OSS中的bulid节点名称重复了。但是根据错误提示,却很难一眼找出问题所在。需要自行排查!!!


8.png

9.png


完成以上配置之后,我们接着完成网络的配置,这里有一个点需要主要,由于专有网络选择的区域限制,需要在可用区H、可用区I、可用区J中的交换机才可用。其他区的一直选择不了,不知道是什么原因。另外就是服务器的选择,系统是默认了4核16GB的服务器,无法做出更改,同时还需要添加Core或Task节点。这样算下来费用一个小时在5.4元!!!体验费用不低,所以使用完之后,记得及时删除资源!!!)。


10.png

11.png

12.png


3. 创建网络连接

在EMR控制台的左侧导航栏,选择EMR Serverless > Spark。在Spark页面,单击目标工作空间名称。在EMR Serverless Spark页面,单击左侧导航栏中的网络连接

13.png

14.png

15.png


4. 上传JAR包到OSS

下载官方提供的kafak.zip包,然后上传到对应的oss节点下。

16.png

17.png


5. 创建流任务

在EMR Serverless Spark中提交PySpark流任务非常简单。用户只需通过EMR控制台或SDK将任务代码打包上传,并配置相关参数(如资源规格、引擎版本、运行参数、Spark配置等),即可发布任务。发布后,我看可以前往运维管理中,启动该任务。(注意事项:Spark配置的内容一定要根据自己的实际情况,调整oss的目录地址!!!


18.png

19.png


6. 任务监控与管理

通过EMR控制台,用户可以实时监控PySpark流任务的执行状态、资源消耗情况等信息。同时,还可以对任务进行暂停、恢复、取消等操作,实现对任务的灵活管理。


20.png

21.png


22.png



7. 资源释放

完成体验之后,切记释放资源!!!


23.png

24.png

25.png


四、体验感受

1. 优点

  • 无需管理基础设施:用户无需关心计算资源的分配和管理,系统提供了快速创建功能,只需关注数据处理和分析的逻辑。

26.png

27.png


  • 高效灵活:通过Spark提供的丰富任务类型,用户可以轻松地实现各种复杂的数据处理和分析需求。

28.png


  • 实时监控与管理:通过EMR控制台,用户可以实时监控任务执行状态和资源消耗情况,实现对任务的灵活管理。

29.png


2. 不足

  • 学习成本:对于初次接触EMR Serverless Spark的用户来说,需要一定的学习成本来熟悉相关概念和操作。Serverless Spark和PySpark流任务结合使用涉及了多个高级技术组件,对于非专业技术人员来说,理解这些技术的核心概念、配置细节以及最佳实践可能是一个巨大的挑战。

30.png


  • 错误提示不清晰:按照产品手册,一步步的执行,中间过程出现了几次问题,但是从错误提示来看,非常不友好。

31.png

32.png


  • 配置复杂:Serverless环境下,资源的自动管理和配置优化是核心优势,但这也带来了配置上的复杂性。一不小心一个错误的配置就会带来任务失败。
  • 最佳实践缺乏:产品手册虽然提供了不少实践操作,但是对于用户来说,每一个都需要在实践中不断摸索和调整,以找到最适合自己业务场景的配置和策略。碰到一些问题,这需要用户具备较高的自主学习能力和问题解决能力。

33.png


五、小结

在之前,参加过不少阿里云的体验测评活动。这次在体验通过EMR Serverless Spark提交PySpark流任务之后,给我的感觉是不太舒服,过程不太流畅!

首先,我们说说产品手册。在体验过程中,虽然EMR Serverless Spark提供了相对丰富的产品内引导和文档帮助。用户可以通过官方文档快速了解产品的基本概念、使用方法和最佳实践。然而,在某些高级功能或特定场景的配置上,文档内容的深度略显不足(由于个人能力有限,部分配置不能理解)。

还有就是产品手册提供的实践案例,它应该更直观地让用户了解产品在实际业务场景中的应用,用户需要更多真实的案例分析,这些案例可以详细展示如何配置和使用产品来解决问题。而官方提供的这么多案例中,没有突出它在实际运用中解决那些问题?会带来什么样的收益等。

其次,我们从接入便捷性、数据开发体验、弹性伸缩等方面来看,EMR Serverless Spark的产品功能基本满足预期。用户可以通过简单的配置和操作,快速接入EMR Serverless Spark,开始使用其提供的数据处理和分析服务。EMR Serverless Spark提供了丰富的数据处理和分析工具,使得用户可以高效地进行数据开发。

最后,可能是由于时间匆促,这次没有完整的体验EMR Serverless Spark的多个应用场景,有点遗憾。从最后的结果来看,EMR Serverless Spark在PySpark流任务方面还是值得表扬的。特别是它提供了良好的技术支持,高效的运维管理,能够为企业提供了高效、便捷的数据处理和分析服务。相信它将在未来会创造更大的价值。

相关实践学习
函数计算部署PuLID for FLUX人像写真实现智能换颜效果
只需一张图片,生成程序员专属写真!本次实验在函数计算中内置PuLID for FLUX,您可以通过函数计算+Serverless应用中心一键部署Flux模型,快速体验超写实图像生成的魅力。
从 0 入门函数计算
在函数计算的架构中,开发者只需要编写业务代码,并监控业务运行情况就可以了。这将开发者从繁重的运维工作中解放出来,将精力投入到更有意义的开发任务上。
目录
相关文章
|
DataWorks 数据挖掘 Serverless
阿里云EMR Serverless StarRocks 内容合集
阿里云 EMR StarRocks 提供存算分离架构,支持实时湖仓分析,适用于多种 OLAP 场景。结合 Paimon 与 Flink,助力企业高效处理海量数据,广泛应用于游戏、教育、生活服务等领域,显著提升数据分析效率与业务响应速度。
518 0
|
10月前
|
人工智能 分布式计算 DataWorks
一体系数据平台的进化:基于阿里云 EMR Serverless Spark 的持续演进
本文介绍了一体系汽配供应链平台如何借助阿里云EMR Serverless Spark实现从传统Hadoop平台向云原生架构的迁移。通过融合高质量零部件供应与创新互联网科技,一体系利用EMR Serverless Spark和DataWorks构建高效数据分析体系,解决大规模数据处理瓶颈。方案涵盖实时数据集成、Lakehouse搭建、数仓分层设计及BI/ML应用支持,显著提升数据处理性能与业务响应速度,降低运维成本,为数字化转型奠定基础。最终实现研发效率提升、运维压力减轻,并推动AI技术深度整合,迈向智能化云原生数据平台。
331 4
|
10月前
|
分布式计算 运维 监控
Fusion 引擎赋能:流利说如何用阿里云 Serverless Spark 实现数仓计算加速
本文介绍了流利说与阿里云合作,利用EMR Serverless Spark优化数据处理的全过程。流利说是科技驱动的教育公司,通过AI技术提升用户英语水平。原有架构存在资源管理、成本和性能等痛点,采用EMR Serverless Spark后,实现弹性资源管理、按需计费及性能优化。方案涵盖数据采集、存储、计算到查询的完整能力,支持多种接入方式与高效调度。迁移后任务耗时减少40%,失败率降低80%,成本下降30%。未来将深化合作,探索更多行业解决方案。
723 1
|
存储 分布式计算 OLAP
百观科技基于阿里云 EMR 的数据湖实践分享
百观科技为应对海量复杂数据处理的算力与成本挑战,基于阿里云 EMR 构建数据湖。EMR 依托高可用的 OSS 存储、开箱即用的 Hadoop/Spark/Iceberg 等开源技术生态及弹性调度,实现数据接入、清洗、聚合与分析全流程。通过 DLF 与 Iceberg 的优化、阶梯式弹性调度(资源利用率提升至70%)及倚天 ARM 机型搭配 EMR Trino 方案,兼顾性能与成本,支撑数据分析需求,降低算力成本。
744 59
|
存储 分布式计算 物联网
美的楼宇科技基于阿里云 EMR Serverless Spark 构建 LakeHouse 湖仓数据平台
美的楼宇科技基于阿里云 EMR Serverless Spark 建设 IoT 数据平台,实现了数据与 AI 技术的有效融合,解决了美的楼宇科技设备数据量庞大且持续增长、数据半结构化、数据价值缺乏深度挖掘的痛点问题。并结合 EMR Serverless StarRocks 搭建了 Lakehouse 平台,最终实现不同场景下整体性能提升50%以上,同时综合成本下降30%。
985 58
|
机器学习/深度学习 分布式计算 大数据
阿里云 EMR Serverless Spark 在微财机器学习场景下的应用
面对机器学习场景下的训练瓶颈,微财选择基于阿里云 EMR Serverless Spark 建立数据平台。通过 EMR Serverless Spark,微财突破了单机训练使用的数据规模瓶颈,大幅提升了训练效率,解决了存算分离架构下 Shuffle 稳定性和性能困扰,为智能风控等业务提供了强有力的技术支撑。
642 15
|
SQL 存储 缓存
降本60% ,阿里云 EMR StarRocks 全新发布存算分离版本
阿里云 EMR Serverless StarRocks 现已推出全新存算分离版本,该版本不仅基于开源 StarRocks 进行了全面优化,实现了存储与计算解耦架构,还在性能、弹性伸缩以及多计算组隔离能力方面取得了显著进展。
1441 62
|
SQL 存储 缓存
阿里云EMR StarRocks X Paimon创建 Streaming Lakehouse
讲师焦明烨介绍了StarRocks的数据湖能力,如何使用阿里云EMR StarRocks构建基于Paimon的极速实时湖仓,StarRocks与Paimon的最新进展及未来规划。
653 59