企业实施大数据的三个问题和五大关键

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:

很多正在实施大数据的企业或机构并不成功,为什么?他们实施大数据都存在共同的问题,最为典型和严重的是三个问题是

刚刚过去的2016年,是大数据从概念到务实落地的一年。在过去的一年内,互联网行业、电信行业、金融行业、房地产行业、汽车行业、娱乐行业、教育行业、零售行业、能源行业、医药行业、政府机关等都在不同程度的接触和实施大数据。很多正在实施大数据的企业或机构并不成功,为什么?他们实施大数据都存在共同的问题,最为典型和严重的是三个问题是:

问题1:业务部门没有清晰的大数据需求和规划

很多企业业务部门不了解大数据,也不了解大数据的应用场景和价值,因此难以提出大数据的准确需求。由于业务部门需求不清晰,大数据部门又是非盈利部门,企业决策层担心投入比较多的成本,导致了很多企业在搭建大数据部门时犹豫不决,或者很多企业都处于观望尝试的态度,从根本上影响了企业在大数据方向的发展,也阻碍了企业积累和挖掘自身的数据资产,甚至由于数据没有应用场景,删除很多有价值历史数据,导致企业数据资产流失。因此,这方面需要大数据从业者和专家一起,推动和分享大数据应用场景,让更多的业务人员了解大数据的价值。

问题2:企业内部数据孤岛严重

企业启动大数据最重要的挑战是数据的碎片化。在很多企业中尤其是大型的企业,数据常常散落在不同部门,而且这些数据存在不同的数据仓库中,不同部门的数据技术也有可能不一样,这导致企业内部自己的数据都没法打通。如果不打通这些数据,大数据的价值则非常难挖掘。大数据需要不同数据的关联和整合才能更好的发挥理解客户和理解业务的优势。如何将不同部门的数据打通,并且实现技术和工具共享,才能更好的发挥企业大数据的价值。

问题3:组织架构未能有效支撑大数据实施

很多企业或机构在实施大数据的时候,只是简单的建立大数据技术部门,仅从技术、算法角度考虑。企业往往不能科学的考虑大数据团队内部应该招聘和培养哪些方面的人才。同时,更不会考虑不同大数据团队和业务部门如何更好的协同作战,导致大数据不能充分有效的在业务场景的中落地。

那么,在大数据时代,企业如何更有效的实施大数据战略,如何规划、如何实施、如何保障大数据的相关工作可以顺利开展。我们认为,企业要实时大数据战略,需要从五大关键方面规划:1.制定大数据规划找准切入点;2.强化大数据领导力设立CDO;3.设计合理的大数据组织结构;4.搭建富有执行力的大数据团队;5.用制度和文化保障大数据实施。本文将从这五方面展开。

  1.制定大数据规划找准切入点

成功的大数据规划聚焦于四个核心要素:应用场景、数据产品、分析模型和数据资产,企业着手实施大数据战略要着重考虑这四方面,管理者需要在这四方面做好规划,才能让大数据发挥价值,从而给企业带来更好的业务价值。

大数据规划首先是应用场景的规划,企业需要确定不同业务投入大数据的优先级,确定大数据的切入点。企业需要优先考虑业务的哪些方面投入大数据可以为企业提升绩效。在企业中,大数据应用场景包括业务运营监控、用户洞察与用户体验优化、精细化运营和营销、业务市场传播、经营分析等常见的方面。当然在人力资源、IT运维以及财务等方向也可以引入大数据。企业不可能所有应用场景都一起实施,因此,企业高管需要和各业务的整体负责人以及数据专家一起开展研讨会,分析哪些业务投入大数据可以使得业务的绩效提升最为显著,从而确定不同业务投入大数据的优先级,找准大数据的切入点。“数据能够在哪些领域实现业绩的大幅提高?数据能在哪些领域实现企业运营效率的提升”这些问题很重要,一开始就必须提出来。每个重要业务部门和职能部门都需要考虑这个问题,并展开相关的研讨。企业高管实施大数据战略的时候需要高度重视这一步,但在国内很多企业往往忽略的这一方面,投入大数据往往不是以提升业绩导向,而是以纯技术导向,或者是为了“赶潮流”,使得很多企业实施大数据的看不到数据对企业绩效提升,从而使得大数据战略流产。

第二方面是数据产品。在确定了大数据的业务投入优先级后,我们需要考虑的是如何通过数据产品来帮助提升业务的绩效。为什么是“数据产品”而不是“数据工具”,这是因为“数据产品”比“数据工具”更加强调易用性和用户体验。数据和分析模型本身的输出可能会比较复杂,比较难理解,这样往往导致经理或者一线员工等数据用户不能理解,更称不上运用。所以,只有数据产品在业务具体的场景运用的时候,以非常简单易用的方式来呈现,才能让更多的数据用户使用。企业数据用户(往往是业务、产品、营销负责人等非大数据专业人士)在实际运用大数据的时候,更关注的是大数据的产品在哪些方面可以直接帮忙提升绩效,不需要关注大数据这些产品背后的逻辑、分析模型等“黑洞”。如果我们在提供数据产品的时候需要数据用户理解很多“黑洞”,那么数据一定运用不起来,数据的价值就会大打折扣。比如,数据产品可以告诉营销人员,您这次合作的营销推广渠道有所带来的用户40%是作弊而来,我们把这些作弊渠道带过来的用户叫“假量”,数据产品不需要告诉营销人员“假量”是如何计算的,但知道结果和优化方向即可;或者数据产品可以直接告诉营销人员哪些产品和其他产品可以做交叉销售,数据产品可以根据用户需求自动化实现交叉销售,从而进一步提高销售额,

第三方面是数据模型。数据产品背后的“黑洞”是数据模型。数据的简单堆砌不会创造太多的业务价值,需要数据模型、数据挖掘的方法来实现海量数据的商业洞察。常见的模型如预测和分类。在预测方面,如通过高级的模型来预测哪些用户可能会付费,他们的特征是什么,经常在哪里出没;通过数据模型来预测付费客户的数量,以提前发现考核期结束后付费客户数量和KPI的差距以及优化方向;通过预测模型来洞察用户的未来购买需求;在分类模型方面,我们可以通过分类模型结合大数据实现更准确更实时的用户细分;或者通过分类模型对不同价值的客户进行合理的分类,确定服务的优先级和服务内容。企业在制定大数据战略方向时,需要介入数据专家根据应用场景和数据产品的输出来选择模型以及优化模型,从而确定模型研发的方向和优先级。

第四方面是数据资产。有了应用场景、数据产品和数据模型这三大方面,我们就能更清楚的知道:为了实现这三大方面,我们需要哪些数据,什么数据是企业现在拥有,什么数据可以通过合作产生,什么数据需要外部整合,什么数据需要进行购买或者投资。有了前面这三大方面(应用场景、数据产品和数据模型)的规划,大数据的采集、整合、管理的策略便能比较容易理清头绪和相应的规划。当我们合理的整理企业所拥有的数据,并整合有利于业务发展的外部的数据,形成系统化的管理,才能很好的形成企业的数据资产。但在国内,最大的问题常常是各业务部门、各事业部以及职能部门的数据经常各自为政,数据存放在不同的数据库中,数据无法整合打通,企业内部形成各种孤岛,导致企业数据资产无法发挥整合效益,数据资产流失。要让企业的数据成为长期的数据资产,企业高管则需牵头规划,整合不同业务部门、不同事业部的数据,推动建设高数据质量的数据治理标准。

值得注意的是,为了加快大数据的推进速度,企业高管同时需要确定什么方面企业自己开发实现,哪些方面委托第三方实现,哪些方面需要购买。在数据产品和数据模型方向,不一定所有工作都需要内部员工实现。领导层需要根据时间和自身资源(尤其是人力资源)的情况判断,哪些数据产品自己开发、哪些数据产品可以委托第三方公司开发、哪些数据模型自己开发、哪些数据模型委托第三方公司开发。在收集外部数据的时候,我们既可以组建自己的团队进行数据收集,或者委托第三方公司帮忙收集,或者直接采购,或者收购相关的数据公司,总之,在企业需要根据自身情况进行合理的规划。

2.强化高管团队大数据能力,设立数据CDO

在互联网和大数据高速发展的时代,大数据正在深刻地改变商业前景。如果企业要想抓住这个机遇,企业高管的数据决策力,数据管理能力也需要加强。抓住和大数据相关的机会可以增加企业营收、提高企业运营效率,甚至开拓出全新业务。大数据在推进的过程中,最关键是要高管重视,高管重视不仅仅是挂在口上,而是要考虑在决策层构建数据方向的决策力和领导力,否则企业很难把大数据用好。因此,需要在决策层增加数据高官,如果不增加新的数据高管力量,很多组织的大数据大计将难以启动。

因此,高管团队中需要有专人负责制定大数据战略、跟进、监控和指导大数据战略的实施。如果没有在高管团队设立相关的数据负责人的职位CDO(首席数据官),则很难把数据分析和数据挖掘所发现的机会应用于企业战略层的业务发展决策以及相应的组织层面的变革。所以,我们建议,如果企业确实要推动大数据,一定要考虑设立CDO职位。

CDO是一个综合能力要求非常高的职位。CDO需要跟各业务负责人有很好的互动,深入了解业务和未来两三年的业务发展规划,在此基础上,制定在数据应用场景、数据产品化、数据建模、数据资产管理的战略并推动实施。CDO在推动数据战略的实施过程中,还需要构建企业的数据化思维方式,推动构建相应的数据企业文化和制度,通过文化和制度使得大数据技术更有效的促进业务绩效的提升,企业运营效率的提升,甚至是新商业模式的变革。

这里面还有一个比较重要的问题是CDO的回报对象的确定。很多人会问,CDO汇报给CEO、COO还是CTO哪位更合适。企业往往陷入一个误区,觉得数据是技术工作,所以不少企业设立数据高管后,让数据高管直接向CTO汇报,这样的做法有可能导致数据和业务会有较大的脱节。我们建议是,要根据企业实际情况来选择CDO的汇报对象。如果您的大数据战略刚起步,还需要从搭建整个企业的大数据底层平台开始,大数据的业务应用短期内较少,那么大数据可以向CTO汇报;如果企业已经有一定的数据基础,数据平台已经成型,那么,我们建议CDO可以向COO或者CEO回报,这样数据才能离业务更近,更能敏捷的应用于业绩的提升上。我们所看到的大数据运用的较好的企业,数据负责人经常和业务负责人一起制定公司大数据实施计划,一起推进大数据在业务绩效提升。

3设计合理的大数据组织架构

企业的组织结构是企业战略能够顺利实施的基础,所以,大数据团队合理的在组织架构设置对于大数据战略能否成功实施尤为关键。国内很多企业往往忽略的这一方面。很多企业设立数据团队缺乏统一的规划,哪个事业部需要数据人员则在该事业部(或业务部门)设立,如下图的“组织结构1”,这种组织架构是国内最常见的,这种组织架构最大的问题是数据分散,缺乏统一管理和整合,企业内部各事业群(或业务部门)数据各自为政,形成数据孤岛,数据无法整合使用,导致数据资产流失。

另一种常见的做法是在公司只设立一个中央数据部门,该数据部门统一服务各个事业部(或业务部门),各个事业部(或业务部门)没有数据人员或者团队,如图中的“组织结构2”。这种组织架构的问题在于数据虽然集中管理,但数据远离业务,导致很多数据人员不理解业务,无法挖掘数据的价值,无法通过数据很好的辅助业务提升绩效或者运营效率。由于数据人员无法理解业务,导致数据库中存储的很多数据变成“死”数据,数据的业务含义少有人理解,数据的价值便容易流失。

我们认为较为合理的数据团队在组织架构应该这样设立(如图中的组织架构3):首先,设立公司级的中央数据部门,集中存储和管理数据;其次是每个事业部(或业务部门)设立数据团队;第三是在总办设立CDO的岗位。这样的好处在于数据能够集中管理,数据贴近业务,可以很好的发挥数据的价值;同时,在总办(高管团队)设立CDO岗位,可以让数据更好的为决策层服务,数据分析所发现的商业价值也可以更快的应用于业务战略调整。

大家比较关心的是,在这个组织结构下,中央数据部门和各事业部(或业务部门)的数据团队有何差异。我们可以从两大方面来区分:

(1)从汇报关系的差异来看

事业部的数据团队负责人向所属事业部的总负责人汇报,中央数据部门的负责人向CDO汇报,这样的汇报关系的好处在于,前者让数据能为具体的事业部服务辅助提升业绩,每个事业部必然有其不同的数据分析重点,这样可以让数据服务更有针对性,后者让数据更有大局观,能为总办做深度的数据洞察服务。

(2)从团队工作职责差异来看

中央数据部门负责数据的规范化集中存储和管理,负责公司各业务线数据的整合打通,形成公司级统一的用户(客户)画像,负责标准化的数据产品并应用到各业务线中,形成深度的公司级的数据模型和算法,做出公司集团层面视角的分析和洞察;

事业部中的数据团队负责该事业群的日常统计分析和事业群专题类的深度洞察,并辅助事业群的技术人员合理的把数据规范的上报到中央数据部门,与中央数据部门合作,共同深刻理解该业务的数据结构、做更精细且与本部门关联性更高的用户画像等与业务关联度更高的数据工作,推动该事业群所有数据的集中化到中央数据部门,并辅助推动公司级的数据产品应用到本业务部门或者向中央数据部门提出数据产品化、数据建模的需求。

4.搭建有效的大数据团队

人才是大数据战略实施至关重要的方面,因此,设置符合大数据能力要求的团队显得尤为重要。如果组织缺乏合适的人才或能力,大数据战略实施的结果很可能会令人沮丧。因此,企业做好相应的人才规划,按照合理的规模和构成来建设人才库。在上文提到,在合理的大数据组织架构下,有两类数据团队,一类是各事业部中的数据团队;第二类是中央数据部门的数据团队。上文提到两类团队其职责不同,因此,能力要求也不一样。事业部的数据团队能力要求是数据分析为主,招聘主要为数据分析师或者数据分析专家。而中央数据部门的数据能力要求较为复杂,包括六大方面的能力,即数据分析、用户研究、数据产品、算法工程、数据统计和数据平台。在此我们展开介绍中央数据部门六大方向的能力要求:

(1)数据分析团队负责公司级的业务数据体系梳理和建设、公司级的业务专题数据分析和收入分析;此处的数据分析团队能力要求与事业部中的数据分析团队类似,区别主要是他们分析时的视角有所不同,中央数据部门的数据分析团队要站在整个公司角度去审视业务,洞察不同业务的问题,发现机会;

(2)用户研究团队负责用户调研(调查问卷、座谈会、访谈以及眼动仪等)、口碑监测、产品体验分析等方面。用户研究团队主要面对的小数据,但由于用户研究可以发现大数据所不能发现的用户使用行为背后的动机及态度等方面,所以用户研究团队与数据分析团队两者结合将能实现大小数据结合全方面洞察用户的作用;

(3)数据产品团队负责把分析能力产品化、或者基于算法或者模型所产生的数据产品(如渠道防作弊系统、个性化推荐系统等)、数据平台相应系统的产品化、数据可视化等方面的工作。该团队人员类型有数据产品经理、前台开发以及交互设计师等;

(4)算法工程团队主要负责算法研究并把算法能力嵌入到业务的流程或者业务产品中,帮助业务提升业务绩效或者提升运营效率。研究的方向包括分类算法、个性化推荐算法、基于数据挖掘的客户生命周期管理等方向。算法工程团队主要是招聘算法工程师,对数据敏感,要求数学和机器学习方面的能力较高,同时算法工程化的能力较好;

(5)数据统计团队主要负责完成各事业部提出的统计需求,并把统计结果展示到报表系统,同时还负责元数据管理、数据处理、数据统计、数据质量控制和维护等方面工作。

(6)数据平台团队主要负责数据统计产品的后台开发、数据仓库建设、数据接入系统、计算任务调度系统、元数据管理系统和实时计算能力的建设等方面工作。

5.用制度和文化来保障大数据的实施

大数据的顺利实施还需要构建数据决策的企业文化和相关的制度来保驾护航。大数据没有企业高管的重视,没有一线员工积极的参与,在实施时会变得效率很低。通过企业文化和相关的制度调动组织的积极性,才能让大数据的实施取得更好的效果,具体做法有三大方面:

(1)转变思维方式,形成数据决策的文化。企业文化本质是老板文化,如果要构建数据数据决策的文化,企业老板们则需要形成看数据的习惯,老板要带头看数据,比如通过邮件看每天的关键指标的日报、看每周的周报,看月报、季报等。无论是日报周报还是月报,一旦发现数据有异动,则马上回复邮件问数据异动原因。同时,老板在做相关决策的时候,形成用数据决策的习惯,让下属提供充足的数据决策依据,这样会驱动员工才更关注数据。

(2)相关岗位能力增加数据分析能力。在企业可能用数据较多的职位如运营岗位、客户服务岗位、营销岗位、人力资源、产品设计等增加数据分析能力的要求,员工在各自方向晋升的时候,需要评审其数据分析能力,需要举证相关的数据支撑日常工作的案例。通过这样的要求,员工自然会对数据的使用度更高。

(3)通过系统化的培训来培养员工的数据分析能力。由专业数据分析人员和算法人员设计的数据分析解决方案或者产品必须以简单易用的方式提供给一线员工,同时,更为重要的是加强相关的解决方案的或者数据产品的系统化培训,让更多的员工意识到这些解决方案或者产品的价值,并乐于在日常工作中使用。有很多企业往往陷入一个误区,将绝大部分资金如超过80%用于建立模型或者开发数据产品,仅有很少的资金投入到一线的使用。我们的建议是,如果让大数据产品或者解决方案更为广泛被一线员工接受,数据建模/数据产品研发的费用和培训的投入应该是对半分的。为了更好的推进培训,企业还可以考虑成立兴趣驱动的数据协会,让更多的员工加入到该协会中,定期举行培训课程、研讨沙龙以及聘请外部专家作相关分享以开拓视野。

总之,在2017年企业要启动大数据战略,让大数据提升企业运营效率以及提升业务绩效,需要从大数据整体规划、高层团队的CDO设立、组织结构的调整和优化、大数据团队的架构和企业文化与制度等五大方面制定符合企业情况执行方案。只有这样,我们才能够让大数据真正渗透到企业的“骨骼”和“血液”,让大数据和企业经营融为一体,发生化学反应,驱动业绩增长。

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
SQL 存储 监控
大数据Flume企业开发实战
大数据Flume企业开发实战
74 0
|
25天前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
71 2
|
2月前
|
Oracle 大数据 数据挖掘
企业内训|大数据产品运营实战培训-某电信运营商大数据产品研发中心
本课程是TsingtaoAI专为某电信运营商的大数据产品研发中心的产品支撑组设计,旨在深入探讨大数据在电信运营商领域的应用与运营策略。通过密集的培训,从数据的本质与价值出发,系统解析大数据工具和技术的最新进展,深入剖析行业内外的实践案例。课程涵盖如何理解和评估数据、如何有效运用大数据技术、以及如何在不同业务场景中实现数据的价值转化。
46 0
|
5月前
|
存储 机器学习/深度学习 大数据
参与开源大数据Workshop·杭州站,共探企业湖仓演进实践
Apache Flink 诚邀您参加 7 月 27 日在杭州举办的阿里云开源大数据 Workshop,了解流式湖仓、湖仓一体架构的最近演进方向,共探企业云上湖仓实践案例。
178 12
参与开源大数据Workshop·杭州站,共探企业湖仓演进实践
|
5月前
|
存储 监控 数据挖掘
云上大数据分析平台:赋能企业决策,挖掘数据金矿
5.3 场景化 针对不同行业和领域的需求特点,云上大数据分析平台将推出更多场景化的解决方案。这些解决方案将结合行业特点和业务场景进行
151 7
|
5月前
|
存储 数据可视化 大数据
大数据平台架构设计与实施
【7月更文挑战第3天】本文探讨了大数据平台的关键技术,包括数据采集(如Kafka、Flume)、存储(HDFS、HBase、Cassandra)、处理(Hadoop、Spark)、分析挖掘及可视化工具。架构设计涉及数据收集、存储、处理、分析和应用层,强调各层次的协同与扩展性。实施步骤涵盖需求分析、技术选型、架构设计、系统部署、数据迁移、应用开发测试及上线运维,旨在为企业决策提供强有力的数据支持。
|
5月前
|
存储 分布式计算 数据可视化
ERP系统中的大数据分析与处理:驱动企业智能决策
【7月更文挑战第29天】 ERP系统中的大数据分析与处理:驱动企业智能决策
421 0
|
6月前
|
机器学习/深度学习 数据采集 大数据
大数据技术下的企业智能决策支持系统
大数据技术下的企业智能决策支持系统
188 0
|
7月前
|
运维 供应链 大数据
数据之势丨从“看数”到“用数”,百年制造企业用大数据实现“降本增效”
目前,松下中国旗下的64家法人公司已经有21家加入了新的IT架构中,为松下集团在中国及东北亚地区节约了超过30%的总成本,减少了近50%的交付时间,同时,大幅降低了系统的故障率。
|
7月前
|
存储 人工智能 安全
AI大数据分析对企业安全隐私的保护非常重要
AI大数据分析在提供企业发展和决策支持的同时,也涉及到大量的企业数据和用户隐私信息。因此,保护企业安全隐私是非常重要的。