掌握10到30种技术,只为创建一个大数据解决方案

简介:

掌握10到30种技术,只为创建一个大数据解决方案

大数据的应用仍然太难了。尽管有很多的炒作的成分,但大多数企业仍然努力从他们的数据中获得价值。而Dresner咨询服务公司得出结论:“尽管长时间的意识培养和炒作,大数据分析的实际部署目前并不广泛适用于大多数组织。”

这是人员的问题。尽管有说服力的数据,企业高管们往往宁愿忽略这些数据。但是,大数据复杂性的一大部分是因为所需要的软件。虽然Spark和其他更新的系统已经改善了轨迹,但大数据基础设施仍然太难了,这是杰西·安德森精明的一点。

实施起来困难

长期以来,人才一直是大数据采用的最大障碍之一。2015年Bain&Co.公司通过对高级IT主管调查发现,59%的受访者认为他们的公司缺乏对数据和业务有意义的能力。调查机构Gartner公司分析师尼克·荷德科特别指出,“到2018年,由于技能和集成的挑战,70%的Hadoop部署将无法满足成本节省和收入目标。”人员的技能很重要,换句话说,相关人才供不应求。

随着时间的推移,人员的技能差距将会减少,当然,但是了解平均Hadoop部署是不平凡的。安德森指出,大数据的复杂性归结为两个主要因素:“你需要掌握10到30种不同的技术,只是为了创建一个大数据解决方案。而采用分布式系统是比较简单的”。

问题是什么

安德森表示典型的移动应用程序与Hadoop支持的应用程序的复杂性,注意后者涉及“盒子”或组件的数量的两倍。然而,用简单的词语表达,“Hadoop解决方案的'HelloWorld'比其他域中到高级设置更复杂。

安德森说,人们面临复杂的困难,是需要了解涉及的广泛的系统。例如,人们可能需要知道10种技术来构建大数据应用程序,但这可能需要熟悉另外20种技术,只需知道在给定情况下使用哪种技术即可。否则,例如,你将如何知道使用MongoDB而不是Hbase?还是Cassandra?或neo4j?

此外,在分布式系统中运行有其复杂性,而大数据的技能短缺依然存在。

简单的出路

企业正在努力尽量减少在大数据构建中所固有的复杂性的一种方法是转向公共云。根据最近的Databricks对ApacheSpark用户的调查,Spark到公共云的部署在过去一年中增长了10%,达到了总体部署的61%。云计算代替了那些繁琐以及不灵活的内部部署基础设施,可以提供灵活性。

然而,它并不能消除所涉及的技术的复杂性。关于此或数据库或消息代理的相同选择仍然存在。这种选择,以及其中的复杂性,不会很快消失。像Cloudera和Hortonworks这样的公司已经尝试简化这些选择,将它们整合到堆栈中,但是它们仍然基本上提供需要被理解以便有用的工具。AmazonWebServices公司通过其Lambda服务进一步发展,这使得开发人员能够专注于编写应用程序代码,而AWS负责所有底层基础架构。

但下一步是完全为最终用户预先制作应用程序,这是华尔街分析师彼得·戈德马克所说的销售基础设施组件的更大的机会。用他的话来说,一个主要类别的“获奖者”是应用和分析供应商,它将基础技术的复杂性抽象为一个用户友好的前端。企业用户的可寻址的受众将比程序员的市场致力于核心技术。

这是市场需要去的地方,而且是快速的。人们几乎没有做过。对于每个能够掌握所有的相关的大数据技术公司,包括那些高端产业的企业,只是想只是希望重塑自己,需要有人使他们的数据更具可操作性,人们现在需要这类供应商出现。


本文作者:佚名

来源:51CTO

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
Cloud Native 数据处理 云计算
探索云原生技术在大数据分析中的应用
随着云计算技术的不断发展,云原生架构作为一种全新的软件开发和部署模式,正逐渐引起企业的广泛关注。本文将探讨云原生技术在大数据分析领域的应用,介绍其优势与挑战,并探讨如何利用云原生技术提升大数据分析的效率和可靠性。
|
15天前
|
分布式计算 Hadoop 大数据
大数据技术与Python:结合Spark和Hadoop进行分布式计算
【4月更文挑战第12天】本文介绍了大数据技术及其4V特性,阐述了Hadoop和Spark在大数据处理中的作用。Hadoop提供分布式文件系统和MapReduce,Spark则为内存计算提供快速处理能力。通过Python结合Spark和Hadoop,可在分布式环境中进行数据处理和分析。文章详细讲解了如何配置Python环境、安装Spark和Hadoop,以及使用Python编写和提交代码到集群进行计算。掌握这些技能有助于应对大数据挑战。
|
24天前
|
NoSQL 大数据 数据挖掘
现代数据库技术与大数据应用
随着信息时代的到来,数据量呈指数级增长,对数据库技术提出了前所未有的挑战。本文将介绍现代数据库技术在处理大数据应用中的重要性,并探讨了一些流行的数据库解决方案及其在实际应用中的优势。
|
29天前
|
机器学习/深度学习 人工智能 数据可视化
基于Python的数据可视化技术在大数据分析中的应用
传统的大数据分析往往注重数据处理和计算,然而数据可视化作为一种重要的技术手段,在大数据分析中扮演着至关重要的角色。本文将介绍如何利用Python语言中丰富的数据可视化工具,结合大数据分析,实现更直观、高效的数据展示与分析。
|
1月前
|
存储 NoSQL 大数据
新型数据库技术在大数据分析中的应用与优势探究
随着大数据时代的到来,传统数据库技术已经无法满足海量数据处理的需求。本文将探讨新型数据库技术在大数据分析中的应用情况及其所带来的优势,为读者解析数据库领域的最新发展趋势。
|
1月前
|
存储 分布式计算 大数据
现代化数据库技术——面向大数据的分布式存储系统
传统的关系型数据库在面对大规模数据处理时遇到了诸多挑战,而面向大数据的分布式存储系统应运而生。本文将深入探讨现代化数据库技术中的分布式存储系统,包括其优势、工作原理以及在大数据领域的应用。
|
1月前
|
大数据 Java Go
Go语言在大数据处理中的核心技术与工具
【2月更文挑战第22天】本文深入探讨了Go语言在大数据处理领域的核心技术与工具。通过分析Go语言的并发编程模型、内存管理、标准库以及第三方工具库等方面,展现了其在大数据处理中的优势和实际应用。同时,本文也讨论了如何使用这些技术与工具构建高效、稳定的大数据处理系统,为开发者提供了有价值的参考。
|
1月前
|
分布式计算 大数据 Apache
大数据技术变革正当时,Apache Hudi了解下?
大数据技术变革正当时,Apache Hudi了解下?
25 0
|
1月前
|
分布式计算 NoSQL 大数据
探索数据宇宙:深入解析大数据分析与管理技术
探索数据宇宙:深入解析大数据分析与管理技术
56 1
|
2月前
|
SQL 分布式计算 数据库
离线数仓--大数据技术之DolphinScheduler
离线数仓--大数据技术之DolphinScheduler
147 2

热门文章

最新文章