企业必须考虑的关于大数据架构的6大问题

简介:

在拉斯维加斯举行的Dell EMC World 2017大会上,戴尔EMC系统工程师Cory Minton解释了IT领导者如何更好地思考其大数据部署。

大数据在业务价值方面承诺了很多,但企业可能难以确定如何部署需要利用的架构和工具。

从描述性统计,到预测建模,到人工智能的一切都是由大数据提供支持。而组织希望通过大数据来实现这一目标,并将决定其需要推出的工具。

在5月8日召开的2017年戴尔EMC世界会议上,戴尔EMC数据分析的主要系统工程师Cory Minton发表了演示文稿,解释了组织在部署大数据时必须做出的最大决定。在做出决定开始之前,每个企业都要问这六个问题:

1.购买与构建?

要问的第一个问题是组织是否要购买大型数据系统或从头开始构建。Teradata,SAS,SAP和Splunk的热门产品可以买到并简单实现,而Hortonworks,Cloudera,Databricks,Apache Flink可用于构建大型数据系统。

Minton表示,购买提供更短的时间,以及商品使用的简单性和良好的价值。然而,这种简单性通常会带来更高的成本,而这些工具通常在低多样性数据方面效果最佳。如果组织与供应商存在现有的关系,则可以更容易地分析新产品并尝试使用大型数据工具。

许多用于构建大数据系统的流行工具价格低廉或可以免费使用,并且它们可以更容易地利用独特的价值流。其建设路径为大规模和多样化提供了机会,但这些工具可能非常复杂。互操作性往往是管理员面临的最大问题之一。

2.批量与流数据?

Minton说,由Oracle,Hadoop MapReduce和Apache Spark等产品提供的批量数据是描述性的,可以处理大量的数据。他们也可以安排,并经常被用来建立一个数据科学家进行实验的产品平台。

像Apache Kafka,Splunk和Flink这样的产品可以提供能够捕获的流数据功能,以创建潜在的预测模型。Minton表示,使用流式传输数据,其速度胜过数据保真度,但也提供了巨大的规模和多样性。这对于认同DevOps文化的组织更为有用。

3.Kappa vs. lambda架构?

Twitter是lambda架构的一个例子。其数据被分为两个路径,其中一个路径被馈送到速度层进行快速分析,而另一个路径导致批处理和服务层。Minton表示,这种模式使组织能够访问批量和流媒体的见解,并平衡有损流。他说,这里的挑战是人们必须管理两个代码和应用程​​序基础。

Kappa架构将所有内容都视为流,但它是一个旨在实时保持数据保真度和流程的实时处理。所有数据都将写入不可变日志,以检查更改。其硬件高效,代码较少,这是Minton推荐给开始实施大数据的组织的一种模式。

4.公共云vs私有云?

大数据的公共和私有云需要许多相同的考虑。对于初学者来说,一个组织必须考虑到最适合他们的人才工作的环境。另外,还应该考虑数据来源,安全性和合规性需求,以及弹性消费模型。

5.虚拟化与物理性?

几年前,虚拟化基础设备与物理基础设施的争论更加激烈,Minton说。然而,虚拟化已经发展到可与物理硬件进行竞争,在大数据部署方面也变得类似。它归结为组织的管理员更舒适,适用于其现有的基础设施。

6.DAS vs. NAS?

Minton说,直接连接存储(DAS)以前是部署Hadoop集群的唯一方式。然而,现在IP网络增加了带宽,网络连接存储(NAS)选项对于大数据更为可行。

使用DAS很容易上手,而且该模型与软件定义的概念一致。它是为了处理性能和存储方面的线性增长而开发的,并且它与流式传输数据相当。

网络连接存储(NAS)可以很好地处理多协议需求,提供大规模的效率,并且还可以满足安全性和合规性需求。

本文转自d1net(原创)

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
7月前
|
SQL 存储 监控
大数据Flume企业开发实战
大数据Flume企业开发实战
36 0
|
14天前
|
运维 供应链 大数据
数据之势丨从“看数”到“用数”,百年制造企业用大数据实现“降本增效”
目前,松下中国旗下的64家法人公司已经有21家加入了新的IT架构中,为松下集团在中国及东北亚地区节约了超过30%的总成本,减少了近50%的交付时间,同时,大幅降低了系统的故障率。
|
4月前
|
分布式计算 大数据 数据处理
大数据开发企业级案例__某通信企业数据处理需求(建议收藏)
大数据开发企业级案例__某通信企业数据处理需求(建议收藏)
35 0
|
4月前
|
存储 人工智能 安全
AI大数据分析对企业安全隐私的保护非常重要
AI大数据分析在提供企业发展和决策支持的同时,也涉及到大量的企业数据和用户隐私信息。因此,保护企业安全隐私是非常重要的。
|
7月前
|
机器学习/深度学习 大数据 数据挖掘
大数据及其影响:企业如何充分利用它
大数据及其影响:企业如何充分利用它
|
11月前
|
SQL 存储 运维
企业运维训练营之数据库原理与实践—数据库DAS简介和备份上云方案—数据上云(中)
企业运维训练营之数据库原理与实践—数据库DAS简介和备份上云方案—数据上云(中)
108 0
|
11月前
|
运维 关系型数据库 MySQL
企业运维训练营之数据库原理与实践—数据库DAS简介和备份上云方案—数据上云(下)
企业运维训练营之数据库原理与实践—数据库DAS简介和备份上云方案—数据上云(下)
|
分布式计算 MaxCompute
《帮助企业做好MaxCompute成本优化的实践》电子版地址
帮助企业做好MaxCompute成本优化的实践
70 0
《帮助企业做好MaxCompute成本优化的实践》电子版地址
|
大数据 数据挖掘 数据安全/隐私保护
打造大数据硬核组织丨突破瓶颈,为企业变现赋能
竞争激烈、竞价恶点、同行恶点 …… 行业经营环境恶劣、广泛流量难转化 …… 客户群体分散、营销成本极高
|
大数据 数据挖掘 数据建模
运营商大数据精准获客是怎么做到的?企业如何以低成本获取精准客户?
运营商拥有强大的云计算大数据中心,可以通过建立数据模型对任何网站,网页,网址,手机app,400电话,固话,关键词,短信号码等平台进行实时精准数据分析,通过用户综合行为,和用户偏好等综合用户信息等,对目标客户群体进行精准抓取和获取,同时还可以筛选如地区,性别,年龄,职业,访问次数,访问时长,通话次数,通话时长等维度,对目标客户群体更加精准定位。
运营商大数据精准获客是怎么做到的?企业如何以低成本获取精准客户?

热门文章

最新文章