关于数据分析,管理者的4个常规错误

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:


 ◆ 

导读


有关数据和数据分析的高谈阔论比比皆是。不断有人告诫各大公司要规划恰当战略来收集分析大数据,并警告不这么做可能带来的不良后果。像《华尔街日报》近日就提到公司享有客户数据这样一个大宝藏,却大都不知道该如何利用。本文将探讨其中缘由。有公司尝试从巨大的数据中获取实际可用的信息,通过与他们合作,我们归纳了管理者在数据应用上的四个常规错误。


 ◆ 

错误一:没有理解融合的概念

 

阻碍大数据发挥价值的第一大挑战就是兼容性和融合性。大数据的一个主要特点是其来源多样。然而,如果数据形式不相同,或难以整合,则其来源的多样性将使公司难以削减开支,也无法为客户创造价值。例如,在我们和一个合作项目中,该公司拥有丰富的数据,记录客户的交易量和忠诚度,以及专门的在线浏览行为数据,但是鲜少交叉检索这两类数据来判断某种浏览行为即为交易达成的前兆。面对这种挑战,公司创建了“数据湖”来容纳大量非结构性数据。但是,这些公司能够加以利用的数据目前都显得杂乱无章,只不过是一些以文本,也就是说,当这些数据只是普通的二进制数字时,要将它们井然有序地存储起来非常困难。要将来源不同的它们整合起来更是难上加难。


 ◆ 

错误二:没有认识到非结构化数据的局限性

阻碍大数据发挥价值的第二大挑战是其非结构化的特性。对文本数据的挖掘已经有了特别的进展,其语境和技术所带来的认识与结构化数据类似,只是其它形式的数据如视频仍不易于分析。举个例子,虽然拥有最先进的人脸识别软件,有关当局仍然无法从大量视频中识别出波士顿马拉松爆炸案中的两名嫌疑人,因为该软件尚在处理从不同角度拍摄的嫌疑人的照片。

虽然从非结构性数据获取信息面临挑战,但是各公司在利用这些数据初步提升分析已有数据的速度和精确度上取得了显著成绩。比如,在石油和天然气勘探中,人们就用大数据来优化正在进行的操作,以及针对地震钻井的数据分析。尽管他们所使用的数据在速度、种类和体积上都有可能增加,最终这些数据还是用于同一个目的。总之,一开始就希望通过利用非结构性数据形成新的研究假设是站不住脚的,除非各公司通过“实践”有了这种专业能力,能利用非结构性数据优化某个问题答案。

 ◆ 

错误三:以为关联分析意义重大

第三大挑战——我们认为是阻碍大数据价值的最重要的影响因素——是观测数据的大量重叠使其因果关系难以明确。大规模数据集往往包含众多相似或完全一致的信息,直接导致错误的关联分析,误导管理者的决策。近日《经济学人》指出“在大数据时代,相互关系往往是自己浮现出来的”,《斯隆管理评论》在博客中强调虽然很多公司都能接触到大数据,但是这些数据并不“客观”,因为问题在于要从中提炼出值得采取行动的信息。同样,典型的用于分析数据的机器学习算法所进行的关联分析并不一定会提供原因分析,因而不会给出可执行的管理意见。也就是说,让大数据有利可图的技巧在于能够从仅仅观测到相互关系转变为正确鉴别何种关联为因果形式,可以作为战略举措的基础。要做到这一点就必须超越大数据。

谷歌趋势是大数据的经典范例,它利用谷歌搜索词条整合记录。然而,它也说明了仅仅用于关联分析的数据是毫无意义的。起初,研究人员称数据可以用于反映流感的传播。然而后来,研究人员发现因为数据体现的是过去,使用这些数据只能在现状与过去模式相关的情况下,稍微改善应对行为。

举个更具体的例子,假设一个鞋业销售商向曾浏览其网站的消费者投放广告。原始数据分析认为消费者看到这些广告会更愿意购买鞋子。可是,这些消费者在看到广告之前就已经对该销售商表现出了兴趣,因而比普通人更愿意进行交易。这个广告有效吗?很难说。实际上,这里的大数据并没有考虑营销传播有效性的因果推论。要知道该广告是否有效,销售商需要进行随机检测或试验,选取一部分消费者不接触这个广告。通过比较看了广告和没看广告的消费者之间的购买率,公司才能确定是否看到广告能让消费者更愿意消费。这个案例中,价值主要不是通过数据创造的,而是通过设计、执行以及阐释重要的试验来创造的。

这是个试验,不是分析观测到的大数据集来帮助公司了解一段联系到底是仅仅相关还是因为反应潜在的因果关系而变得可以赖以作出判断。虽然对于管理者来说,哪怕仅利用记录消费者行为一拍字节的数据来提升效益都很困难,但是比较参与了营销活动的客户和没有参与的客户——根据试验结果——能够让营销人员推论这个活动是否有利可图。

开展实地试验,得出正确的结论,采取恰当的应对措施,都不是轻而易举的事。但是成功的公司已经有能力来设计、开展重要的实地试验,并对其结果评估,采取针对性措施。正是这种“试验加学习”的环境,以及对其能否加以推广的理解和认识之上采取行动的能力,才让大数据有价值。

只是,由于越来越多的数据样本收益递减,这样的试验并不一定需要大数据。比如:谷歌透露说其往往用有效数据的0.1%中的随机样本来进行数据分析。确实,近日刊登的一篇文章显示大数据的大实际上是不利的,因为“数据库越大,就越容易支持你提出的假设。”换句话说,因为大数据提供重叠的信息,公司能从整个数据集,也能从其千分之一的数据集中获取同样的信息。

 ◆ 

错误四:低估了劳动力技术需求

开展试验不是公司从大数据推测有价值信息的唯一途径。另一个可行的方法是公司可以培养算法技能,来更好的处理数据。推荐系统便是此类算法的一个范例。推荐系统通过针对关联数据的算法向客户推荐最相关的产品。只是,它不是依靠背后规模庞大的数据,而是依赖识别关键信息碎片来预测客户偏好的能力。的确,往往不是数据的规模,而是计算机学习的算法来确定结果的质量。尽管预测能力可能增加可用数据的规模,但是在大多数情况中,预测的提升说明规模收益随着数据集增加而递减不过,要建立好的算法就需要好的数据分析师。一些公司以为不同聘请员工来分析数据中的因果联系就能将大量的数据转化为信息,他们可能要失望了。

数据本身是没有价值的。只有与管理、构建和分析技能结合来,明确对其进行试验和算法,才能对公司有用。当你把价格信息看做是对价格信息处理的技能时就清楚了。很多情况下,相对于数据成本,留住数据处理人才成本更高。这说明对于一个公司而言,数据处理能力比数据本身更重要。

 原文发布时间为:2016-09-06

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3月前
|
存储 数据挖掘 数据处理
DataFrame探索之旅:如何一眼洞察数据本质,提升你的数据分析能力?
【8月更文挑战第22天】本文通过电商用户订单数据的案例,展示了如何使用Python的pandas库查看DataFrame信息。首先导入数据并使用`head()`, `columns`, `shape`, `describe()`, 和 `dtypes` 方法来快速概览数据的基本特征。接着,通过对数据进行分组操作计算每位顾客的平均订单金额,以此展示初步数据分析的过程。掌握这些技能对于高效的数据分析至关重要。
39 2
|
6月前
|
数据采集 机器学习/深度学习 监控
数据分析的目的是什么?
【5月更文挑战第17天】数据分析的目的是什么?
159 4
|
6月前
|
存储 机器学习/深度学习 数据采集
数据分析师如何处理数据以进行分析?
【4月更文挑战第4天】数据分析师如何处理数据以进行分析?
54 9
|
存储 分布式计算 监控
OushuDB 小课堂丨描述性分析如何利用数据做出更好的决策
OushuDB 小课堂丨描述性分析如何利用数据做出更好的决策
113 0
|
机器学习/深度学习 算法 安全
数据分析中常见的"数据陷阱" !!!
数据分析中常见的"数据陷阱" !!!
378 0
数据分析中常见的"数据陷阱" !!!
|
数据挖掘
一文速览-数据分析基础以及常规流程
一文速览-数据分析基础以及常规流程
121 0
一文速览-数据分析基础以及常规流程
|
机器学习/深度学习 算法 数据挖掘
这个数据分析报告,居然没写一行代码
数据分析和机器学习是目前的热门,相关书籍教程汗牛充栋,大多数都在讲环境创建、数据处理、工具应用,以及各种理论和算法,虽然实践起来难度不大,但学习之后还是云里雾里,不知道怎么应用。今天我们从另外的角度上了解下数据分析的基本步骤,并结合一个分析案里,体验一次数据分析的过程,不用写代码噢。
205 0
这个数据分析报告,居然没写一行代码
|
数据可视化 BI
技术人最不该忽视可视化数据分析!
阿里妹导读:在这个“人人都是数据分析师”的时代,阿里的同学几乎都在参与数据的采集、加工与消费。数据可视化作为连接“加工——消费”的重要一环,其质量至关重要。优秀的可视化能促成卓越洞见,糟糕的内容则让所有的努力失去意义。今天,阿里高级产品经理沉砂为我们详细介绍数据可视化工具以及如何选择有效图表。
8869 0
|
算法 数据挖掘
写好一份数据分析报告的13个要点
写一份好的数据分析报告很重要,因为分析报告的输出是整个分析过程的成果,是评定一个产品、一个运营事件的定性结论,更很可能是产品决策的参考依据。本文将写好一篇分析报告的要点总结如下。
2172 0