大数据建设也要防产能过剩

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

“大数据”听起来看起来都不陌生,但是真要问起来什么是大数据,大数据该如何运用,或许很多人并不清楚。事实上,大数据就是从看似杂乱、重复、无趣的数据中,根据需要理出一条线索,为解决问题提供靠谱的依据。近日,由省社科联主办的大数据与社会科学理论茶座邀请到了中国工程院院士、中国互联网协会理事长邬贺铨,国家信息中心专家委员会主任宁家骏来济讲授大数据建设的利与弊。

大数据的应用

对于大数据的定义,或许用以下的例子就可以让人有个大致了解。

2013年十一黄金周之前,百度的数据分析师忽然发现网民点击搜索“九寨沟”的流量非常大,到九寨沟“怎么玩”、“住在哪”、“怎么去”成了热点词,点击量突然有一个爆发性的增长。百度的数据分析师不敢怠慢,把数据给国家旅游局、四川旅游局、九寨沟景区等做了通报,提醒对方十一期间,到九寨沟的旅游人数可能有一个爆发性增长,希望相关部门最好做好预案,可是相关部门都没把这当回事。结果,当年的黄金周,去九寨沟旅游的人数真的暴增,而去九寨沟景点的车辆有限,大量的游客滞留在景区外,愤怒的人群制造了许多不愉快的事。

2015年元旦,上海外滩的陈毅广场上,庆祝新年的人群发生了惨烈的踩踏事故。这个事情本来可以避免。实际上,早在新年之前,也就是2014年12月31日晚上,大量的人群开始在外滩聚集准备庆祝新年,而每个人身上携带的手机产生的信号其实早已经作为人群密度的直接数据通过电信部门告知了上海公安局。但由于没有采取相应的措施疏导人群,最终导致了惨剧的发生。

从以上的例子可以看出来,基于网络产生的大量数据,经过分析之后,使得看似毫无关联的事情变得有了关系,之后进行干预并引导其向有利的方向发展。这些有价值的数据,就是大数据的一种体现。

随着科技的发展,互联网、物联网与人们的日常生活越来越紧密,城市人群每天都会通过手机、公交卡、电脑等方式产生各种各样的互动,在网络上留下痕迹,这些数据汇总之后,可以经过分析产生许多有价值的信息。例如韩国首尔有一条酒吧街,年轻人都喜欢在那里玩到很晚。之前的时候,这条街没有深夜运营的公交车,出行只能自驾或者出租车,但是进酒吧都是喝酒的,这就没法自驾,而出租车又很贵,于是市民就要求开通一条夜间运营的线路。可是线路该如何设计才能效率最大化呢?当地相关部门通过分析此前市民从酒吧街离开后打车、网络叫车等的主要目的地,最终得出了一条热点线路,开通了公交,极大地方便了市民出行。对此,宁家骏表示,北京以及国内不少城市在这一点上做得并不好,经常是热点线路挤不上人,有的线路则经常空车,资源利用效率不合理。

再比如,美国的NBA很早就引入了数据化管理,从上世纪80年代开始,NBA就将球员在赛场的表现数据化,经过30多年的积极改进已达到了可辨别每一个球员在场上的弱点,方便教练进行针对性战术安排。“如果把这样的大数据分析应用到中国足球队身上,成绩应该会提高不少。”邬贺铨说。

不要盲目建设

从某种程度上来说,中国是数据资源的大国,因为人口以及网民的数量庞大,每天产生海量的数据,将这些数据加以汇总、分析,可以更加行之有效地治国理政。以医疗数据为例,2008年仅3D 核磁产生的数据就达到100G,这些数据还要被保存50年,如果把所有的医疗数据都加起来的话,肯定也是大数字。不仅如此,中国的医生职业生涯中会看几千个病人,这是美国医生远远不能比的,由此产生的经验和数据也是相当丰富的,一旦利用起来,可以有效地提高医疗水平。但在邬贺铨、宁家骏看来,现在的问题是,数据共享存在不少障碍,数据都存在部门化、利益化的倾向,想要真正无障碍高效利用,任重而道远。

尽管大数据有不少好处,我国也是一个数据资源大国,但是专家并不建议各地盲目上马建设大数据项目。“大数据不等于传统的数据库存建设,大数据需要云计算但大数据建设也不等于云计算中心建设。”宁家骏表示,在将大数据上升为国家战略的过程中,依然要避免出现产能过剩的问题。

宁家骏说:“河北省有三个地方同时报大数据中心建设的项目,分别是廊坊、张北、承德。这其中张北还好说,是因为冬奥会要在那里开,但承德要搞大数据中心就没有必要了。”从之前的相关高科技项目来看,部分地区存在建设项目就是为了圈地、盖房,但真正建设好之后,厂房里可能什么都没有,或者花高价买来了设备却因为缺乏应用而将设备闲置。“这些高科技设备跟手机一样,放上两三年就一分钱不值了。部分地方花钱建设了,什么效益都产生不了,纯粹浪费纳税人的钱。”宁家骏说。

对于山东社科联将要建设大数据中心,宁家骏表示,这个中心不一定真正自己去建设。可以租用山东大学、浪潮等科研、企业的设施,使用自己的数据,将大数据中心的建设实现社会化。但关键还是需要人才的储备。

与国外的差距

2012年奥巴马发布美国的大数据行动计划,中国国务院是以国字头发文件在2015年发布中国的大数据行动计划,两者差三年。这个三年的差距应该放到互联网的发展历史中来看:美国是1969年开始使用互联网,中国则是1994年才进入互联网,从互联网的起步到大数据的行动,中国和美国的差距缩小了很多。从这个意义上说,中国在大数据的问题上有一个好的起步阶段。但是从另一个角度看,美国在大数据方面是有很强大的基础的,大数据涉及到存储、分析、应用等各个方面,甚至包括大数据的硬件产品基本都是美国遥遥领先。就连提供大数据服务的软件也是谷歌、亚马逊、IBM等美国公司。在这里的差距就不是三年了。

在邬贺铨看来,尽管有的中国公司称从谷歌挖了国外顶尖的人才或者团队,但大数据是一个系统技术,仅仅是一两个人或者团队,没法根本改变国内大数据建设的不足。

除此之外,大数据的应用还涉及到网络安全。民航、高铁、银行等如今都在大数据的控制之下,而大数据常采用云计算,其云存储容易成为被攻击目标,用户面临数据泄露和篡改的风险。在这方面,美国的网络安全排世界第一,中国仅排到四十位。同时,大数据由于在全球范围内都处于起步和摸索阶段,非常需要创新的环境作为其发展的支撑,从这一点来说,美国也排在前面,他们从教育开始,小孩的创新就比中国强,我们现在虽然呼吁“万众创新”,但是总体上还是创新不如美国。

不仅如此,美国有很好的法律来保障大数据,中国现在在这一方面欠缺很多。没有法律支撑,连政府部门都不敢开放数据——万一开放了某些金融类数据,搞不好还会被说成存在利益输送。也因为没有相关法律,大数据中涉及到个人的,什么是隐私什么是公开,没有相应的界定,也没有机制来保证利益。“我们跟世界发达国家比起来,在大数据问题差距较大,还需要从多方面发展。”邬贺铨说。

本文转自d1net(转载)

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
新零售 大数据 测试技术