市场“退烧”后,大数据如何破局?

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:

过去五年,大数据理念深入人心,“用数据说话”已经成为所有人的共识,数据成了堪比石油、黄金、钻石的战略资源。

大数据这五年

五年来,人们对大数据的认识更加具体化,数据无所谓大不大,有用最重要,数据是基础,而分析挖掘和应用才是根本。

大众对大数据的认识经历了螺旋上升,实践逐渐落地的过程。目前,国内的大数据产业政策日渐完善,技术、应用和产业都取得了非常明显的进展。具体而言,体现在四个方面。

第一,政策持续完善。在顶层设计上,国务院印发的《促进大数据发展行动纲要》对政务数据共享开放、产业发展和安全三方面作了总体部署。数据开放共享方面的《政务信息资源共享管理暂行办法》、产业方面的《大数据产业发展规划(2016-2020)》、数据安全方面的《中华人民共和国网络安全法》等政策法规都已出台。卫计、农业、检察、税务等部门还出台了各领域大数据发展的具体政策。此外,17个省市发布了大数据发展规划,十几个省市设立了大数据管理局,8个国家大数据综合试验区、11个国家工程实验室启动建设。可以说,适应大数据发展的政策环境已经初步形成。

第二,技术稳步提升。开源给国内产业界提供了一个跳板,让我们与国际大数据技术先进水平的差距不断缩小。2014年~2016年,百度、阿里和腾讯先后拿下国际知名的Sort Benchmark大赛冠军。这个竞赛全面比拼分布式系统软件架构能力,包括海量数据分布式存储、计算任务切片调度、节点通信协调同步、数据计算监控、硬件架构等方面的能力。而这一赛事2014年之前的冠军均被微软、Yahoo、亚马逊等包揽。这从一个侧面反映了我国产业界大数据处理技术水平的快速提升。与此同时,一批国产化商用大数据平台产品崛起,底层技术越来越扎实。

第三,应用逐渐落地。在金融领域,2016年商业银行全面部署大数据基础设施,五大国有银行、股份制、城商行和农商行已经逐步开始了从传统数据仓库架构向大数据平台架构的转型改造,基于大数据风控的“秒贷”业务越来越普及,不仅提升了贷款效率,还扩大普惠金融的覆盖面;在电信领域,中国电信的大数据平台已经扩展到31个省,汇聚了全国的基础数据形成了“天翼大数据”服务能力。中国联通也实现了数据整合,大数据产品体系已经推出征信、指数、营销等六大产品种类。

第四,产业快速崛起。围绕数据的产生、汇聚、处理、应用等环节的产业生态从无到有,不断壮大。中国信息通信研究院发布的《中国大数据产业调查报告(2017年)》显示,2016年中国大数据核心产业(软件、硬件及服务)的市场规模为168亿元,较2015年增长45%,预计2020年有望达到578亿元。2016年获得融资的企业数量达到400多家,2017年前三个月就有150多家企业获得融资,其中半数为中国公司,资本源源不断地投向大数据领域。

随着新一代人工智能浪潮的兴起,善于炒作者一定会迅速奔向下一个风口,估计大数据很快就要“退烧”了。不能怪大家不专一,只怪热点轮替太快,让人目不暇接。

大数据,代表了一种现象,即:数据的指数增长超过了人们管理、处理和应用数据能力的增长,产生了一个“剪刀差”,而且这个“剪刀差”无疑将长期存在。无论是对一个国家还是一个企业,谁能在缩小大数据“剪刀差”上拔得头筹,把数据用好,就能占有竞争优势。

还需迈过“三道坎”

浮在水面的只是冰山一角。在IT业,五年已太长,离七年之痒不远了,用互联网专家何宝宏的话说,要么成功,要么换壳。然而同时,五年又太短,大数据刚刚炒热,前景还很广阔,坚持下去才是真爱,前面还有很多问题(机遇)等着解决,比如以下几点:

打破数据孤岛——人人都想要别人的数据,但又都不愿意把自己的数据给别人,这是“天性”。与此同时,以前信息系统建设都从一个个“烟囱”开始,数据缺乏互通的技术基础,这是“人祸”。从国家层面到企业内部,情况大同小异。

麦肯锡2016年年底发布的一份报告显示,大数据在很多领域没有达到预期效果,很重要的原因就是数据割裂。这些年,推动数据开放共享的政策举措一直在加强,政策已经相当给力,但效果与预期还有差距,碰到了瓶颈。政策再往前推,仿佛遇到一堵高高的墙,这时就需要技术“拉一把”。的确,数据共享技术供应有些滞后了。

未来,如果同态加密(homomorphic encryption)、差分隐私(differential privacy)、多方安全计算(secure multi-party computation)、零知识证明(zero-knowledge proof)等技术能取得突破,数据共享就能再前进一大步。区块链的共享账本、集体维护、难以篡改等特性,也有望能推数据共享。

数据资产管理——数据分析工作,往往有80%的时间和精力都耗费在搜集、清洗和加工数据上。数据质量不过关,会让数据分析效果大打折扣,甚至让分析结果谬以千里。很多单位大数据应用效果不佳,问题多半出在数据管理上。大家都同意把数据当做资产,甚至认为有朝一日会计入资产负债表。但相较于对桌椅板凳等实物资产的管理,对数据资产的管理,还处于非常原始的阶段。我们往往对自己的数据资产有哪些、有多少都不清楚,更别说数据质量、数据安全、资产评估、资产交换交易等精细管理、价值挖掘和持续运营了。

事实上,数据资产管理不像大数据分析挖掘那么光鲜亮丽,就像城市的“下水道工程”,短期只有投入没有产出。但长期来说又不得不做,是战略层面的事情,否则返工的成本巨大。以后,每个企业都将成为数据驱动的企业,打基础的事情要尽早做。

深化领域应用——虽然大数据的应用取得了一定进展,在互联网、金融、电信等领域产生了实实在在的效益,医疗、工业领域也正在加速落地。但总体上只能说是走出了小半步。

目前的大数据应用可大致分为两类。一类是“平行替代”,如金融和电信行业用Hadoop来重构原来的昂贵的数据仓库。另一类则是“补课”,如政务、医疗、工业等领域,正在做的工作是在原有业务系统之外,新建本来早该建设的数据平台。这些大数据应用,显然还不够高大上,是物理反应,是量变而非质变,但的确也是发展的必经阶段。

可以预见,随着这些“替代”型或“补课”型应用的深入,未来业务与数据将加深融合,越来越多数据驱动的新模式、新业态值得所有人期待。也只有这样,数据强国战略才能落到实处。

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
新零售 大数据
母婴市场破局:社区App获青睐 借大数据精准运营
精明的犹太商人们说,孩子和女人的钱最好赚。          的确,根据中国第六次人口普查,我国人口中0-6岁儿童已有约1.3亿人,占人口总数的约10%,而在未来10年,预计新增人口1.9亿。
1053 0
|
1月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
9天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
78 7
|
9天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
23 2