有关大数据的6大误区

简介:

你的组织是否在考虑分析数据的最佳方式?以下是在你采用大数据分析之前,需要注意的有关大数据的6个误区。

云计算的应用,更快的数据处理速度,以及从物联网输入大量的数据,这些意味着,企业现在正在收集前所未见的数据量。现在大数据比以往任何时候都大。但是如何组织、处理和理解数据仍然是许多组织面临的一个主要挑战。

你的公司是否仍然在努力理解大数据是什么,以及如何管理吗?这里有6个关于大数据的误区,行业专家将帮助你把真相从虚构的大数据领域中分离出来。

1.大数据意味着“很多”数据

目前,大数据已经成为一个流行词。但人们通常对它真正的含义还是不清楚。有些人将大数据简单地认为是大量的数据。但是,这并不完全正确,它比这稍微复杂一些。大数据是指一个数据集,无论是结构(如数据表)或非结构化(如元数据从电子邮件)结合的数据,如社会媒体分析或物联网数据,形成一个更大的故事。大数据故事说明组织很难用传统的分析技术来捕获发生的趋势。

丰田研究院的数据研究总监吉姆•阿德勒表达了一个很好的观点:“数据也有质量。这就像水一样:玻璃容器中的水是非常易于管理。但是,如果混杂在洪水中,这将是压倒性的灾害。”他说,“在数据分析系统中,工作在一台机器的的数据将被冲走时,其数据规模将增长100或1000倍。所以,当然,原型虽小,但其架构却很大。”

2.数据需要清洁

“最大的误区就是你必须要有干净的数据进行分析。”BeyondCore公司首席执行官阿里吉特•森古普塔说,“没有人有干净的数据,必须将数据进行清理,否则分析是行不通的。这是一个疯狂的想法。你要做的就是进行一个足够好的分析。你要分析所有的数据,尽管这些数据是肮脏的,这只说明你有数据质量问题。我可以告诉你一些模式,尽管数据存在质量问题,但完全可以进行正常分析。现在,你可以集中进行数据质量工作,只是提高数据可以得到稍微好一点的洞察力。”

InOutsource商业智能和分析总监梅根•布茨梅因对此表示赞同,“很多时候,企业就会将这些工作能拖就拖,因为他们认为数据是不干净的,这是没有必要的。部署的分析应用程序将可以找到数据的薄弱环节,”她说。“一旦这些问题已经确定,清理计划可以投入到位。然后,分析应用程序可以利用一种机制,加大清理力度,并监测进展情况。”

布茨梅因说。“一旦你把这些数据整合在一起,你将在一个应用程序中赋予它生命的视觉,你可以看到这些汇集在一起的数据的关联,你会很快看到你的资料不足。”她说,“你可以看到数据的问题在于要提供一个清理数据的基准。”

3.等待,让你的数据完美

你不应该等待清理你的数据,这里还有一个原因,森古普塔说,“在你完全清除数据之后,这可能需要三个月的时间,然而三个月后,这些数据已经陈旧过时了。”因此,这些信息将不再适用。

森古普塔表示,第一州际银行的乔希•巴特曼在会议提出了一个重要观点。乔希展示了他是如何运行分析,发现问题,分析变化,重新运行分析的。他说,“你看,我的分析时间只有大约四到五分钟。所以,如果我可以运行分析,发现问题,解决问题,再重新进行分析,并在四、五分钟后查看报告,改变如何处理分析的方法。”

森古普塔用编码来比喻那些旧方式。“我的一切都是正确的,然后我进行编码。但现在,每个人进行编码都不太灵活。”他说。“你写好程序之后,你必须要测试它,并查看如何能使它更好,那么等它变得更好之后。世界发生了变化,人们仍然采用的是旧的做事方法。”

4.数据湖

数据湖是持有大量的原始结构化和结构化数据的松散的存储库,经常在大数据的背景下提到。

唯一的问题是,尽管他们是如何经常被引用,但它们却不存在,阿德勒说,“一个组织的数据不被倒入一个数据湖中。这是精心策划的一个部门的数据库。鼓励集中使用专业知识。他们还提供了良好的数据治理和合规性所需的问责性和透明度。”

5.分析数据是昂贵的

如果假定在数据分析工具涉及一些费用的话,你可能会害怕获得数据。而可以告诉你的有好消息是,如今有许多免费的数据工具,任何人都可以开始使用这些工具来分析大数据。

同时,森古普塔表示,当今云计算的低成本意味着“你真的可以做那些以前从来不可能实现的的事情。”

6.机器算法将取代人类分析

森古普塔认为在分析大数据方法有一个有趣的二分法。“有人说,解决这个问题需要成千上万的数据科学家来分析解决,随后,又有人说,采用机器学习就可以做到这一切。这将是完全自动的。”

但是,桑古塔并不认为这些都是合适的解决方案。“没有足够的数据科学家,成本将快速上升。”他说,“此外,企业用户有多年的域名登录经验,并有着对他们业务的直觉。当你请来一个数据科学家,并认为他会搞定这些工作,并告诉你该怎么做。这实际上创造了一个确切的错误,数据科学家们往往无法无法足够了解企业的业务。”

“完美”的数据科学家,是那些准确理解具体业务如何运作,以及其数据是如何工作的,这是一个误区。森古普塔说,“这样的人根本不存在。”

在现实中,森古普塔说,“大多数数据科学项目实际上没有得到实施,因为它是如此艰难,需要几个月得到完成,而当它完成的时候,你所关心的问题是已经陈旧过时了。”

但是,也有过于依赖机器学习问题。“机器学习只是给出一个答案,但并没有解释。它告诉人们该怎么做,而不是为什么要那样做,”他说。“人们不喜欢别人告诉他该怎么做,尤其是神奇的机器。”他说,其关键是不只是答案,而是其解释和建议。

一方面,他说,数据科学家将变得越来越专业化,而这是真正困难的问题。“想一想各机构和企业开始建设了数据处理部门和一些处理部门。世界500强企业也有数据处理部门“或数字加工部门。但他们基本上变成了Excel,Word和PowerPoint。”尽管如此,人们仍然是数据和数字处理方面的专家。

“如果我去摩根士丹利,相信我,那些数据处理和数字处理方面的专家仍然存在。他们只是有着不同的名称和不同的工作,但在真正的情况下,这些人仍然存在,但80%-90%的专家已经转移到Excel,Word和PowerPoint方面,这是全球在大数据方面应该发展的主要原因。”


本文作者:Harris编译

来源:51CTO

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
机器学习/深度学习 SQL 数据可视化
阿里云ACP大数据考试内容是什么?考试费用是多少?
作为目前市场占比最大的云计算厂商,阿里云旗下的认证在业界内部相当受欢迎的,并且具有很大的含金量,很多人通过学习阿里云的证书知识,提升自己的专业能力,并且在通过考试后拿到相关证书,以此获得进入阿里云以及其合作企业的机会。
|
安全 云计算
阿里云RPA(Robotic Process Automation)的Rap程序
阿里云RPA(Robotic Process Automation)的Rap程序
709 1
|
缓存 算法 Swift
Swift 应用性能优化的重要性及基本原则,包括理解性能瓶颈、针对性优化和平衡性能与代码质量
本文深入探讨了 Swift 应用性能优化的重要性及基本原则,包括理解性能瓶颈、针对性优化和平衡性能与代码质量。具体介绍了优化数据结构、减少对象创建、合理使用缓存、优化算法和内存管理等技巧,并通过实际案例展示了如何有效提升应用性能和用户体验。
304 3
|
Linux 虚拟化 数据安全/隐私保护
AlmaLinux 9.5 正式版发布 - RHEL 二进制兼容免费发行版
AlmaLinux 9.5 正式版发布 - RHEL 二进制兼容免费发行版
470 11
AlmaLinux 9.5 正式版发布 - RHEL 二进制兼容免费发行版
|
vr&ar Android开发 数据安全/隐私保护
移动应用与系统:探索现代移动端技术的演进与创新####
本文深入探讨了移动应用开发和移动操作系统的发展历程,分析了当前技术趋势以及未来的发展方向。通过具体案例和技术解析,揭示了如何利用最新技术提升用户体验和应用性能。文章还讨论了移动操作系统的安全性问题及其解决方案,为开发者提供了宝贵的参考。 ####
|
敏捷开发 存储 数据可视化
无纸化办公用什么软件能够最快提高工作效率!
无纸化办公(Paperless Office)是现代办公的重要趋势,旨在减少纸张使用,保护环境,提高效率,降低成本。通过电子文件管理,无纸化办公实现了快速查找、即时共享和远程协作,大幅提升了工作效率。文章推荐了五款高效无纸化办公软件:板栗看板、Jira、Wrike、Basecamp 和 Monday.com,这些工具在任务管理、项目协作和数据统计等方面表现出色,助力企业实现无纸化转型。
|
存储 IDE 开发工具
GitHub发展史
无聊的时候看看
|
存储 缓存 JavaScript
三个小时vue3.x从零到实战(前)(vue3.x基础)
该文章提供了关于Vue 3.x的基础教程,覆盖了从环境搭建到基本使用的各个方面,适合Vue 3.x的初学者。
156 0
|
开发框架 自然语言处理 Java
跨平台服务开发的利器——深入解析Thrift Compiler的工作机制与内部实现细节!
【8月更文挑战第18天】在现代软件开发中,代码生成器日益重要,能根据特定输入自动生成源代码,提高效率与可维护性。Thrift作为跨平台多语言框架,通过IDL文件定义数据和服务接口,并据此生成多语言代码,涵盖序列化、方法调用等。以示例IDL定义为例,Thrift Compiler生成服务端骨架与客户端代码框架,便于开发者添加业务逻辑。深入源码,“compiler/cpp/src/thriftl”目录下的组件负责词法、语法分析及代码生成,映射IDL至特定语言,体现编译原理与跨语言设计精髓。
319 0