复杂性将如何影响大数据部署

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

如今,大数据应用程序比常规应用程序复杂10倍,开发人员通常需要了解大量的技术,以使大数据能够正常工作。

大数据的应用仍然太难了。尽管有很多的炒作的成分,但大多数企业仍然努力从他们的数据中获得价值。而Dresner咨询服务公司得出结论:“尽管长时间的意识培养和炒作,大数据分析的实际部署目前并不广泛适用于大多数组织。”

这是人员的问题。尽管有说服力的数据,企业高管们往往宁愿忽略这些数据。但是,大数据复杂性的一大部分是因为所需要的软件。虽然Spark和其他更新的系统已经改善了轨迹,但大数据基础设施仍然太难了,这是杰西·安德森精明的一点。

实施起来困难

长期以来,人才一直是大数据采用的最大障碍之一。2015年Bain&Co.公司通过对高级IT主管调查发现,59%的受访者认为他们的公司缺乏对数据和业务有意义的能力。调查机构Gartner公司分析师尼克·荷德科特别指出,“到2018年,由于技能和集成的挑战,70%的Hadoop部署将无法满足成本节省和收入目标。”人员的技能很重要,换句话说,相关人才供不应求。

随着时间的推移,人员的技能差距将会减少,当然,但是了解平均Hadoop部署是不平凡的。安德森指出,大数据的复杂性归结为两个主要因素:“你需要掌握10到30种不同的技术,只是为了创建一个大数据解决方案。而采用分布式系统是比较简单的”。

问题是什么

安德森表示典型的移动应用程序与Hadoop支持的应用程序的复杂性,注意后者涉及“盒子”或组件的数量的两倍。然而,用简单的词语表达,“Hadoop解决方案的'HelloWorld'比其他域中到高级设置更复杂。

安德森说,人们面临复杂的困难,是需要了解涉及的广泛的系统。例如,人们可能需要知道10种技术来构建大数据应用程序,但这可能需要熟悉另外20种技术,只需知道在给定情况下使用哪种技术即可。否则,例如,你将如何知道使用MongoDB而不是Hbase?还是Cassandra?或neo4j?

此外,在分布式系统中运行有其复杂性,而大数据的技能短缺依然存在。

简单的出路

企业正在努力尽量减少在大数据构建中所固有的复杂性的一种方法是转向公共云。根据最近的Databricks对ApacheSpark用户的调查,Spark到公共云的部署在过去一年中增长了10%,达到了总体部署的61%。云计算代替了那些繁琐以及不灵活的内部部署基础设施,可以提供灵活性。

然而,它并不能消除所涉及的技术的复杂性。关于此或数据库或消息代理的相同选择仍然存在。这种选择,以及其中的复杂性,不会很快消失。像Cloudera和Hortonworks这样的公司已经尝试简化这些选择,将它们整合到堆栈中,但是它们仍然基本上提供需要被理解以便有用的工具。AmazonWebServices公司通过其Lambda服务进一步发展,这使得开发人员能够专注于编写应用程序代码,而AWS负责所有底层基础架构。

但下一步是完全为最终用户预先制作应用程序,这是华尔街分析师彼得·戈德马克所说的销售基础设施组件的更大的机会。用他的话来说,一个主要类别的“获奖者”是应用和分析供应商,它将基础技术的复杂性抽象为一个用户友好的前端。企业用户的可寻址的受众将比程序员的市场致力于核心技术。

这是市场需要去的地方,而且是快速的。人们几乎没有做过。对于每个能够掌握所有的相关的大数据技术公司,包括那些高端产业的企业,只是想只是希望重塑自己,需要有人使他们的数据更具可操作性,人们现在需要这类供应商出现。

本文转自d1net(转载)

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
7天前
|
人工智能 运维 安全
|
5天前
|
人工智能 异构计算
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
|
7天前
|
机器学习/深度学习 人工智能 自然语言处理
B站开源IndexTTS2,用极致表现力颠覆听觉体验
在语音合成技术不断演进的背景下,早期版本的IndexTTS虽然在多场景应用中展现出良好的表现,但在情感表达的细腻度与时长控制的精准性方面仍存在提升空间。为了解决这些问题,并进一步推动零样本语音合成在实际场景中的落地能力,B站语音团队对模型架构与训练策略进行了深度优化,推出了全新一代语音合成模型——IndexTTS2 。
626 22
|
6天前
|
人工智能 测试技术 API
智能体(AI Agent)搭建全攻略:从概念到实践的终极指南
在人工智能浪潮中,智能体(AI Agent)正成为变革性技术。它们具备自主决策、环境感知、任务执行等能力,广泛应用于日常任务与商业流程。本文详解智能体概念、架构及七步搭建指南,助你打造专属智能体,迎接智能自动化新时代。
|
13天前
|
人工智能 JavaScript 测试技术
Qwen3-Coder入门教程|10分钟搞定安装配置
Qwen3-Coder 挑战赛简介:无论你是编程小白还是办公达人,都能通过本教程快速上手 Qwen-Code CLI,利用 AI 轻松实现代码编写、文档处理等任务。内容涵盖 API 配置、CLI 安装及多种实用案例,助你提升效率,体验智能编码的乐趣。
1007 110