大数据的五大误区及其破解之道

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

有些人认为,“大数据”这一词汇不过是企业营销时的大肆炒作。但即使是那些接受大数据概念的人,也需要消除某些大数据误区。


全球领先的信息技术研究和咨询公司Gartner指出,大肆宣传大数据概念,使企业在选择适当的行动方案时,受到更多困扰,但对消除一些仍存在的误区却毫无帮助。


例如,80%的数据是非结构化的,这是错误的;又如高级分析功能只是更复杂形式的普通分析,分析公司Gartner指出,这也是不正确的。


Gartner公司在已发布的两篇报告《大数据对分析功能影响中的主要误区》和《大数据对信息基础设施影响中的主要误区》中,集中探讨大数据对分析功能及信息基础设施影响中的相关误区,希望展示大数据相关的更多真实情况。以下摘取大数据概念的五大误区。


误区一:在大数据技术部署中,其他人都领先我们
虽然越来越多的企业开始关注大数据技术和服务,Gartner公司测算结果显示,73%的企业正在投入或策划大数据技术,但大多数企业才刚刚开始接受这一技术。


因此,担心竞争对手运用大数据技术快速发展实在是杞人忧天。实际上,只有13%的受访企业真正开始部署大数据相关技术。


Gartner公司表示:“企业面临的最大挑战是怎样通过大数据获得价值以及怎样入手部署大数据技术。大多数企业在试点阶段就遇到困难,因为他们并没有在业务过程或实际用例中运用该技术。”


Gartner公司的结论是:你并没有落后。为实际的任务制定策略,并与IT及业务部门合作。


误区二:数据量很大,而小缺陷无关紧要
有人认为,根据大数定律(Law of Large Numbers),独立的数据缺陷无关紧要,不会影响分析结果。


与更小规模的数据集相比,独立的数据缺陷对整个数据集的影响的确要小很多,但目前,数据量不断增长,数据缺陷与以往相比也越来越多。


Gartner公司表示:“因此,低质量数据对整个数据集的整体影响仍保持不变。此外,企业在大数据环境下使用的大部分数据来自外部数据源,其数据结构和来源未知。”


“这意味着数据质量问题的风险比以往更高。因此,在大数据部署中,数据质量实际上更加重要。”


Gartner公司的结论是:设计出新的数据质量管理方式,并选择数据质量级别。严格遵守数据质量保障的核心原则。


误区三:大数据将取代数据整合能力
企业希望通过读时模式(Schema on Read)处理信息,使用多个数据模型灵活地读取同一个数据源。这种灵活性将帮助最终用户决定怎样按需解释任意数据信息,并实现个体用户数据访问的定制化能力。然而,大多数用户实际上使用写时模式(Schema on Write)。写时模式下用户可描述数据并制定内容,而数据完整性也能保持一致。


误区四:将数据仓库用于高级分析是毫无意义的
有些人认为,高级分析功能可使用新的数据类型时,部署数据仓库则浪费时间。实际上,大多数高级分析项目在分析时都使用数据仓库。


新的数据类型还可能需要提炼,使其适于数据分析。此外,哪些是相关数据、怎样聚合数据以及必要的数据质量级别等都需要企业做出决策。


Gartner公司的结论是:尽可能使用数据仓库存储经人工收集检查的数据集,用于高级分析功能。


误区五:数据湖将取代数据仓库
数据湖解决方案通常被当作企业级平台销售,用于分析原生格式下的各种不同的数据源。但Gartner公司认为,数据湖取代数据仓库,或作为分析基础设施中的重要组件是错误的观点。


与已经成型的数据仓库技术相比,数据湖技术尚未成熟,其功能不够全面。“数据仓库已具备支持多种用户群体的能力。”因此,企业无需等待数据湖技术的成熟。


Gartner公司的结论是:在现有数据仓库中运用Hadoop等数据湖技术。只有在元数据管理技术、工具及培训上投入,才能通过数据湖技术创造业务价值。



原文发布时间为:2014-10-22

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
6月前
|
SQL 分布式计算 大数据
"大数据计算难题揭秘:MaxCompute中hash join内存超限,究竟该如何破解?"
【8月更文挑战第20天】在大数据处理领域,阿里云的MaxCompute以高效稳定著称,但复杂的hash join操作常导致内存超限。本文通过一个实例解析此问题:数据分析师小王需对两个共计300GB的大表进行join,却遭遇内存不足。经分析发现,单个mapper任务内存默认为2GB,不足以支持大型hash表的构建。为此,提出三种解决方案:1) 提升mapper任务内存;2) 利用map join优化小表连接;3) 实施分而治之策略,将大表分割后逐一处理再合并结果。这些方法有助于提升大数据处理效率及稳定性。
141 0
|
6月前
|
机器学习/深度学习 分布式计算 大数据
大数据迷局:如何用PyODPS破解回归分析之门?
【8月更文挑战第20天】随着大数据技术的发展,回归分析在处理海量数据时愈发重要。PyODPS是阿里云MaxCompute上的Python库,支持高效的数据处理。本文通过示例展示如何使用PyODPS进行回归分析:从安装库、连接MaxCompute、读取销售数据,到数据预处理、构建线性回归模型、预测销售额及评估模型性能(如计算RMSE)。这一流程体现了PyODPS在大数据环境下的强大功能。
100 0
|
大数据 定位技术
大数据破解污染图谱 北风与雾霾啥关系
本文讲的是大数据破解污染图谱 北风与雾霾啥关系【IT168评论】南美洲的蝴蝶扇动下翅膀,太平洋都能起台风。但为何西伯利亚的强冷空气,却吹不动北京的雾霾?对于这个问题,中国的程序员希望用代码寻找气象与环境污染之间的关系,最终用街头大妈都能看懂的方式呈现出来。
1632 0