IBM Platform Symphony:功能强大的高效大数据分析平台

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:

ZD至顶网软件频道消息(文/邹大斌):随着大数据的价值得以验证,越来越多人的企业开始在大数据项目上进行投资,这给传统IT基础设施带来相当的挑战。众所周知,传统IT基础设施大多是为特定应用而构建的,在灵活性和可扩展性上都存在明显不足。在此背景下,人们开始寻找一种更适合大数据分析应用的IT基础设施,而IBM Platform Symphony(以下称Platform Symphony)正是一个可以帮助企业构建上述基础设施的平台软件。

作为一个企业级大数据和分析平台,Platform Symphony的一个核心优势是,它能屏蔽底层基础设施的复杂性,在共享底层基础设施环境的基础上,为上层各个不同的大数据应用提供一个多租户的环境。同时,它还能支持Hadoop应用,允许一些基于Hadoop开发的大数据应用和一些并行计算分析应用,在一个集群或者同一个分布式基础设施环境上运行。

以金融领域常见的交叉货币互换期权价值分析应用为例。为了完成这项工作,用户需要模拟未来一段时间内本币利率、外币利率和外汇汇率的发展趋势,并通过用各种不同的利率组合来计算合约在不同情况下的价值。实践中广泛采用蒙特卡罗路径模拟的方式,采用这种分析方法需要模拟大量的蒙特卡罗路径(模拟的路径越多,其精确度越高),计算量非常大,而且耗时。如何管理集群资源,让其并发地完成多个蒙特卡罗路径的模拟,是一个严峻挑战。通过IBM Platform Symphony构建一个分布式网格计算平台,可以帮助客户快速部署、管理、监控资源,并保证计算的并行化,且没有单点故障以提高可靠性,最终快速获得所需要的结果。

 IBM Platform Symphony:功能强大的高效大数据分析平台

图1

如图1所示,这是将交叉货币互换期权价值分析应用提交给系统后的结果。通过这个管理界面,我们可以看到这个应用之下有多个会话(Sessio,每个会话就是一个任务请求);点击每个会话可以看到这个会话之下有多少个任务已经在运行,有多少个任务在等待资源分配;点击一个具体任务还可以看到这个任务在哪个机器上运行。对于每个会话、每一个任务都可以随时终止、暂停以及重启,或者对优先级别进行调整。不仅如此,系统还提供了很多各种不同的调度策略来帮助用户实现更高的可靠性,以及根据其服务水平要求来实现这些资源的调度,从而很好地满足各个不同的业务部门和应用的服务水平需求。

2是交叉货币互换期权价值分析应用的整体配置情况图。基于这些系统管理员可以了解分析应用使用的一些特点,同时也可以基于这些数据找到系统的一个瓶颈,并进行未来的规划,比方究竟需要多少CPU资源,是否需要增加系统内存资源或者增加网络带宽等。

IBM Platform Symphony:功能强大的高效大数据分析平台

2

实际上,除了非常方便地调度和管理底层资源以支撑上层的这些专业的大数据分析应用之外,Platform Symphony的优势还在于它对很多开源产品的支持,比如对Spark以及Ipython等的支持和兼容能力,其操作非常简单,而且非常高效。

3是系统管理员通过Platform Symphony的管理控制台为Sarah_BU这个用户组创建一个Spark 应用实例组,从创建实例组、部署应用实例、到为实例配置所需资源都可以在管理控制台完成,非常简单、直观。

IBM Platform Symphony:功能强大的高效大数据分析平台

3

4是以用户(Sarah)身份进入到管理控制台基于管理员分配的资源进行配置管理,提交Spark任务并对任务进行调度和运行监控,比如,运行时使用了多少计算资源、存储资源等。另外,还可以通过Zeppelin Notebook随时对Spark应用的运行结果进行查询和展现,非常方便。

IBM Platform Symphony:功能强大的高效大数据分析平台

4

5是在Platform Symphony的管理控制台中安装IPython Notebook后,用默认配置启动一个Spark的实例组和IPython,然后提交一个Spark应用。其整个操作都在同一个界面下完成,直观明了。

IBM Platform Symphony:功能强大的高效大数据分析平台

5

6是提交一个新的Spark应用,然后用IPython Notebook对应用结果进行查询。在执行过程中,我们还可以根据需要随时添加新的用户进来,让他可以使用IPython NotebookSpark运行结果进行查询和分析。

IBM Platform Symphony:功能强大的高效大数据分析平台

6

综上所述,Platform Symphony为大数据分析不仅提供了强大的管理、调度和监控功能,同时还提供了很强的对开源软件的支持和兼容能力,不

 仅让基于HadoopSpark开发的应用可以在Platform Symphony中运行,同时能让用户可以用熟悉的开源工具,如IPythonZeppelin等,来对运行结果进行分析和展现,极大地方便了数据的处理工作,最大化地提供了处理效率。

另外值得一提的是,与这些SparkHadoop等开源软件相比,由于Platform Symphony是采用商业化的软件模式开发的,因而在性能、时延等诸多方面都比开源产品有明显优势。这也反映在一些实际应用性能测试上,相较开源软件,采用Platform Symphony可以有一些大幅度的提高(有些可能达到数十倍),尤其是一些对时间延迟比较敏感的一些应用。

原文发布时间为:2016年1月20日
本文作者:邹大斌
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
1月前
|
存储 机器学习/深度学习 SQL
大数据处理与分析技术
大数据处理与分析技术
103 2
|
2天前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
37 15
|
8天前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
6天前
|
分布式计算 DataWorks 搜索推荐
用户画像分析(MaxCompute简化版)
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。
40 4
|
1月前
|
SQL 数据采集 分布式计算
【赵渝强老师】基于大数据组件的平台架构
本文介绍了大数据平台的总体架构及各层的功能。大数据平台架构分为五层:数据源层、数据采集层、大数据平台层、数据仓库层和应用层。其中,大数据平台层为核心,负责数据的存储和计算,支持离线和实时数据处理。数据仓库层则基于大数据平台构建数据模型,应用层则利用这些模型实现具体的应用场景。文中还提供了Lambda和Kappa架构的视频讲解。
165 3
【赵渝强老师】基于大数据组件的平台架构
|
26天前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
63 4
|
27天前
|
关系型数据库 分布式数据库 数据库
PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具
在数字化时代,企业面对海量数据的挑战,PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具。它不仅支持高速数据读写,还通过数据分区、索引优化等策略提升分析效率,适用于电商、金融等多个行业,助力企业精准决策。
34 4
|
27天前
|
机器学习/深度学习 分布式计算 算法
【大数据分析&机器学习】分布式机器学习
本文主要介绍分布式机器学习基础知识,并介绍主流的分布式机器学习框架,结合实例介绍一些机器学习算法。
178 5
|
1月前
|
存储 监控 数据挖掘
【Clikhouse 探秘】ClickHouse 物化视图:加速大数据分析的新利器
ClickHouse 的物化视图是一种特殊表,通过预先计算并存储查询结果,显著提高查询性能,减少资源消耗,适用于实时报表、日志分析、用户行为分析、金融数据分析和物联网数据分析等场景。物化视图的创建、数据插入、更新和一致性保证通过事务机制实现。
142 14
|
1月前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
112 2