0.4 大数据最常见的目的是产生小数据
如果我知道获得一切后是什么样子,我也许早前就愿意接收更少的东西。
―Lily Tomlin
假设你正在使用智能手机搜索意大利餐厅,只需几步,你的手机就会列出在你当前位置10个街道范围之内的意大利餐厅。在此过程中,被查询的数据库庞大且复杂:一个映射数据库收集了世界上的所有餐厅,餐厅的经纬度、地址和由顾客给出的评分会持续更新,但是数据库的输出是小数据,例如,在街景地图上标出来5个餐厅,以及这些餐厅的准确地址、电话号码和评分。你要做的只是从这5家餐厅中选择一家,并享受佳肴。
在此案例中,你的数据选择源自一个大型的数据集,但你最终的分析仅利用了一个小数据集(即满足搜索条件的5家餐厅)。大数据资源是为了提供小数据集。分析工作并非基于大数据资源―大数据资源仅仅用于搜索和检索,因此,大数据资源的真正工作是收集和组织复杂数据,以便资源能够为你的检索做好准备。在此过程中,数据创造者需要做很多决定,例如,酒吧是否应该列入餐厅范围之内?外卖是如何点餐的?应当收集什么数据?缺失数据应当如何处理?数据如何存储?
大数据很少全部用于分析,总有一个“剧烈”的过滤过程将大数据转换为小数据,这种方式适用于科学分析。澳大利亚平方公里阵射电望远镜7、全球望远镜、欧洲核子研究中心的大型强子对撞机和泛星计划望远镜每天产生PB级的数据(见术语表,Square Kilometer Array,Large Hadron Collider,Worldwide Telescope)。研究者从这些原始数据资源中提取出众多用于分析的小数据集8。
这里给出一个实例来展现如何从大数据资源中产生可用的数据子集。耀变体是罕见的超大质量黑洞,它会释放喷流能量,并出现超光速运动现象。宇宙论者希望尽可能多地了解这些奇怪的物体。学习耀变体的第一步是找到足够多的耀变体,之后,对所有收集到的耀变体进行多种形式的测量,并进行比较来确定它们的总体特征。耀变体有一个其他天体没有的伽马射线特征径迹。广角红外线探测望远镜(WISE)收集了整个可观测宇宙的红外数据。研究人员从WISE的数据中提取出了所有有可能是耀变体的天体―约有300个。此后对这300个物体的研究让研究人员相信大致有一半是耀变体9。上述是大数据如何起作用的一个典型案例―通过创建小数据集可以有效地进行分析。