《时代周刊》:用形象化的老办法对付大数据

简介:

威廉-普莱费尔(William Playfair)生于1759年在家里排行老四父亲是上进的苏格兰大臣。他年纪轻轻便当上瓦特的个人助理随后从事制图、会计、工程、经济、银匠、土地投机、记者等多种职业取得大小不等的成功。最终他在贫困中去世。

不过在此过程中他差不多是不声不响地一手创立了统计图表学发明了柱状图、线形图和扇形图。1786年他出版《商业和政治地图集》该书以一副英国历史进出口图开场放在今天的话与本刊的排版看上去并不太脱节。用他自己的话说“普莱费尔是将几何原理用于财政事务之第一人”。

他生不逢时。如果他活在当今时代普莱费尔很可能身居硅谷一家受热捧创业公司的首席数据官高位。我们周围的世界发生着看不见但影响巨大的转变即从信息稀缺到信息过剩的无声颠覆。人类进化首先面临的是食物短缺如今我们却遭受着普遍肥胖之苦。

与之大同小异的是过去我们获得信息很困难现在到处都是海量的信息。谷歌前CEO斯密特曾经估计人类每两天所创造的数据量就相当于有史以来到2003年的数据量总和。他说这话是在五年前。我们从认识上还未进化到这一步。

估计人类创造的总数据量是技术人员的一大爱好。确切数字虽然各不相同但谁都承认大得惊人。只需想想你的智能手机就够了没错它是一个通讯设备但它也是把你周围的世界转化为数据的工具。你看到某个东西把它拍下来或者录下来然后上传到云端以字节的方式永远存在。每一天人们发布五亿条推文在Instagram分享7000万张照片在Facebook观看40亿条视频。每一分钟我们向YouTube上传300小时的新内容。

创造数据的不仅是人。还有被称为物联网的新现象。汽车、自动售货机、眼镜、计步器等装上传感器和传输器与云端或彼此之间通讯。这些物体也像人类一样在数字世界留下痕迹。市场研究机构IDC在2014年的报告中估计数字世界的规模将从2013年的10万亿吉字节增长到2020年的44万亿或44泽字节。

我们拥有丰富的数据但从中获得的回报却迅速减少因为拥有的数据越多就越难从中挖掘出意义。颇具讽刺意味的是信息过多差不多也像信息不足一样难以分析和理解。于是新技术让我们的世界充斥着越来越多的复杂信息我们最终就越需要有着悠久历史的人类努力即始终致力于使复杂的东西可以理解、从混乱中求得意义的艺术尤其是视觉艺术。

正如普莱费尔所发现的那样超过某一界限挖掘数据意义的最佳办法就是使数据形象化。试想Instagram的海量照片。去年纽约市立大学教授曼努维奇(Lev Manovich)对来自纽约、圣保罗、柏林、曼谷、莫斯科5座城市的12万张照片进行了视觉分析。他和他的研究团队从中选取自拍照片估计照片上的人的年龄和性别。然后他们对照片运用面部分析算法对所有数据进行统计分析最后放到selfiecity.net制成互动图表。

结果这些毫无意义的原始数据现在具有了意义。你可以按照城市、性别、心情、是否歪脑袋、是否戴眼镜、睁开还是闭上眼睛浏览照片。你可以提出问题并得到答案谁自拍用的多男人还是女人(答案是女人)。哪里的人笑得最多(曼谷)哪里的老年人爱自拍(纽约)……

如果你把数据形象化看作我们抵抗信息海洋的防洪堤那么随着数据日益增多防洪堤的压力总是不断上升而压力上升又改变了数据形象化的方式和作用这一点甚至普莱费尔也不曾料到。

形象化从对统计数据集的分析呈现发展为实时数据的不断变化图景。在Bostonography你可以像上帝一样鸟瞰波士顿所有按照当前时速进行颜色编码的公交车位置。Crimemapping.com实时显示按照报案地点分类的案发地情况用不同表情符号代表不同性质的案件。fbomb.co网站提供上推特的人何时何地如何说国骂的全球实时图景。

从“纽约出租生命中的一天”(NYC Taxis: A Day in the Life)可以得见美观、免费的数据丰富性。一位名叫Chris Whong的黑客根据《信息自由法》从出租车与电召车委员会(TLC)下载50G纽约市出租车数据利用这些数据制作了2013年某一天任意出租车的路线和收入图。你可以选择一辆车快进(或以正常速度——如果你有时间)观看它在曼哈顿大街上行驶像勤劳的小精灵吃豆子那样在身后留下一条蓝线。

数据形象化并非总是为了闹着玩。今年4月30日在Kickstarter发布的一个众筹项目将从OpenSecrets.org抓去竞选资金数据并以多种方式自动图像化清楚、简洁地显示政治家获得的资金数量和来源。这是超越透明性的下一个必要步骤不仅公布信息而且要公布该信息的意义。今年数据图像化最引人注目、最具革命性的实验之一是纪录片制作人、数据专家霍洛兰(Neil)的“二战死难者”(The Fallen of World War II)互动视频。该实验利用图表图像讲述历史表示成千上万死难者的几乎独家的抽象数据形象化地带领我们回顾二战和“大屠杀”。

视频六分钟左右镜头急剧仰拍现出摩天大楼似的柱状图表示前苏联军队870万人的伤亡。初一看似乎极不可能但随着镜头回摇在二战的巨大灾难中又合情合理。在这种不动声色的叙述中人类的死亡更显触目惊心。

之后的视频同样摄影手法反复出现冷冰冰的抽象数据变为视觉艺术让我们感同身受增加知识。现阶段人类遭遇普莱费尔也发现无法理解的海量数据。我们也觉得数据多得无法理解而这些数据又可能使得我们的世界不可理解。不过我们并非毫无办法。信息不仅需要自由它还需要看得见摸得着。

本文转自d1net转载

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
9月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
624 14
|
11月前
|
数据采集 分布式计算 DataWorks
ODPS在某公共数据项目上的实践
本项目基于公共数据定义及ODPS与DataWorks技术,构建一体化智能化数据平台,涵盖数据目录、归集、治理、共享与开放六大目标。通过十大子系统实现全流程管理,强化数据安全与流通,提升业务效率与决策能力,助力数字化改革。
397 4
|
11月前
|
分布式计算 DataWorks 数据处理
在数据浪潮中前行:记录一次我与ODPS的实践、思考与展望
本文详细介绍了在 AI 时代背景下,如何利用阿里云 ODPS 平台(尤其是 MaxCompute)进行分布式多模态数据处理的实践过程。内容涵盖技术架构解析、完整操作流程、实际部署步骤以及未来发展方向,同时结合 CSDN 博文深入探讨了多模态数据处理的技术挑战与创新路径,为企业提供高效、低成本的大规模数据处理方案。
488 3
|
11月前
|
SQL 人工智能 分布式计算
ODPS:数据浪潮中的成长与突围
本文讲述了作者在大数据浪潮中,通过引入阿里云ODPS体系(包括MaxCompute、DataWorks、Hologres)解决数据处理瓶颈、实现业务突破与个人成长的故事。从被海量数据困扰到构建“离线+实时”数据架构,ODPS不仅提升了数据处理效率,更推动了技术能力与业务影响力的双重跃迁。
|
10月前
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
973 0
|
11月前
|
SQL 人工智能 分布式计算
在数据浪潮中前行:我与ODPS的实践、思考与展望
在数据驱动决策的时代,企业如何高效处理海量数据成为数字化转型关键。本文结合作者实践,深入解析阿里云自研大数据平台 ODPS 的技术优势与应用场景,涵盖 MaxCompute、DataWorks、Hologres 等核心产品,分享从数据治理到实时分析的落地经验,并展望其在 AI 与向量数据时代的发展前景。
464 70
|
9月前
|
传感器 人工智能 监控
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
290 14
|
9月前
|
机器学习/深度学习 传感器 监控
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
吃得安心靠数据?聊聊用大数据盯紧咱们的餐桌安全
304 1
|
9月前
|
数据采集 自动驾驶 机器人
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
数据喂得好,机器人才能学得快:大数据对智能机器人训练的真正影响
949 1
|
10月前
|
机器学习/深度学习 监控 大数据
数据当“安全带”:金融市场如何用大数据玩转风险控制?
数据当“安全带”:金融市场如何用大数据玩转风险控制?
578 10