2016“数据引领 飞粤云端”广东航空大数据创新大赛极客奖:Oh my god团队

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 2016“数据引领 飞粤云端”广东航空大数据创新大赛,由广东省人民政府和阿里巴巴集团联合主办,旨在提高全社会对大数据价值的认识,培养大数据应用人才,鼓励数据创新创业实践,推动航空大数据技术成果转化和落地。本文整理自本次大赛极客奖获奖团队Oh my god的现场答辩。
摘要:2016“数据引领 飞粤云端”广东航空大数据创新大赛,由广东省人民政府和阿里巴巴集团联合主办,旨在提高全社会对大数据价值的认识,培养大数据应用人才,鼓励数据创新创业实践,推动航空大数据技术成果转化和落地。本文整理自本次大赛极客奖获奖团队Oh my god的现场答辩。

本文整理自获得2016“数据引领 飞粤云端”广东航空大数据创新大赛获得极客奖的Oh my god团队的答辩视频。Oh my god团队中的三名成员都是西安电子科技大学研二的学生,同时也都是数据挖掘的爱好者,以下为团队简介:
24eb8dc05b1d0160eb90a3648c999c3a6f6db1dd
Oh my god团队的答辩中主要围绕了以下四个方面:
  1. 赛题背景
  2. 数据分析
  3. 解决方案
  4. 赛后总结
赛题背景
正如赛题介绍中所描述的,对于机场客流量的预测其实是非常有意义的。而本次大赛为比赛团队提供了白云机场两个月的数据记录,包括WIFI连接记录、安检记录以及航班排班表等数据信息,并要求对于未来两个整天,也就是11月11号以及11月12号每个WIFI点10分钟内的平均设备的数量进行预测,测评的公式如下图所示。

4ccdbcb166ba43525fa7b30240cac251b1ded0e4


数据分析
在数据分析阶段,Oh my god团队将白云机场划分成了5个区域,分别是最中间的航站楼以及东西两边各有的两片登记区域,以及连接航站楼和登机区域的两片走廊。对于这些区域进行简单的可视化分析发现不同区域的客流量的均值和波动性存在很大的差别,登机区域的客流量波动是比较大的,同时业务量也是比较大的;相比而言,航站楼区域和走廊区域的客流量就比较稳定,并且Oh my god团队对此提供了数据统计来支撑这一观点。
a71aaeb4968fac79547bedcfed1b34d913cc721e
白云机场的登机区域具有大业务量、大波动的特点,这是预测的难点和重点,所以Oh my god团队对这个区域进行了单独的分析和建模。他们在进行数据分析时也尝试着使用历史的统计量对WIFI的接入量进行了拟合,并发现历史统计量是非常有意义的,其对于某一个WIFI在某一时间点的平均水平有非常好的把握,但是对于登机区域WIFI的波动却不能很好地拟合。
e40dfdd022a492726b6d55001f73e82b37493ba7
根据以上的分析,Oh my god团队构建了两个主要模型。一个是基于历史信息的整体区域模型,另一个是基于航班分析的登机区域模型。
eb8713f8fbefab5fb5107b667a11f700a3b49444

解决方案
Oh my god团队首先对于整体区域进行建模,这部分使用了两种方法进行,一种是专家系统,也就是规则方法,另外一种是机器学习方法。Oh my god团队在进行数据分析时考虑了以下的影响因素,首先是WIFI历史连接量的统计信息,这个统计信息对于平均量的把握是非常有意义的,而且因为预测的是每十分钟的接入量,所以时段的影响也必须要考虑,除此之外还考虑了星期、节假日以及楼层区域的影响,加上数据信息以及对于业务的理解就构建了这样的一个专家系统。并且基于这些信息,提取了特征并且构建了机器学习方法,而且该模型使用的机器学习方法包含了两种,一种是GBDT,另外一种则是线性回归。最后,将规则结果以及机器学习的结果进行了融合,得到最终整体区域建模的结果。
8a4378092411e94df443829888dcc1e892180c08
接下来,介绍建模中使用的规则方法。如何通过历史统计量进行合理地预测呢?Oh my god团队认为这需要依赖于背后的业务逻辑,并且他们根据数据分析得到了如下图所示的一些业务逻辑。
54b52292e814fc9c948efcdf219e972020bc5480
业务逻辑中的前两条其实可以看做是数据预处理的过程,也就是除去一些业务缺失以及节假日的时间点,因为需要预测的两天不是节假日,所以像国庆节这样日期的数据对于分析的干扰是比较大的,必须要去除的。除此之外,在模型中还做了平滑来去除异常点的影响。对于第三点,近期历史业务的统计均值是具有较强的参考价值的,也就是说离预测时间越近,数据的统计和参考意义就越强。

对于星期的相关性而言,需要预测的两天11号和12号分别是周五和周六,一般而言这两天的业务量会比较大,所以星期的影响也必须要考虑进去。最后一点是不同楼层,不同区域的WIFI点对于时间的敏感程度不一致,这一点无论是通过线上测试还是天池对于成绩的反馈都给出一个感觉:3楼业务量大,波动也大,对于时间的敏感程度也比较高,所以在进行分析时,时间跨度取得短一些比较好;而1,2楼业务量比较稳定,所以时间跨度可以取长一些。Oh my god团队的模型就是基于以上的这些业务逻辑来做的,换句话说也就是以业务为本的。
da31c0efcbd8da9983fa0131b424e50c7e45320d
接下来,Oh my god团队介绍了他们所使用到的机器学习方法。首先,他们使用了特征工程,将WIFI的ID、所处的时段、楼层区域等进行了one-hat编码作为一个特征,并且做了一些统计量,前1,3,5,7,14天对应十分钟,对应小时统计信息以及星期、区域的统计信息作为相应的特征,并且统计了WIFI的接入量及方差排名特征。而且为了表现不同特征之间的交互信息还做了交叉特征。
efa46c9064b50fe90b1499d0fcf220088e12f649
因为要预测11月11号和12号的信息,为了保证时效性,Oh my god团队选取了9号和10号的数据作为测试集,而使用之前的时间段作为序列集,并且在提取特征的时候使用了滑动窗口的方式。而在提取特征之前的数据预处理也是非常重要的,值得强调的一点是训练集的选择也是非常重要的,虽然需要预测的两天是周五和周六,但是与之前的周五、周六相比,这两天的业务量没有那么大,所以在选择的时候需要保证训练集和线上测试集的一致性。

划分完数据集、做完特征工程之后,Oh my god团队使用了GBDT和线性回归来进行预测,并结合刚才所提到的规则方法,将结果进行融合并作为整体区域建模的最终结果。

登机口区域的业务量比较大,其波动也比较大,所以对其进行了单独的分析建模,而这里分析的重点就是要找出隐藏在这些波动背后的原因究竟是什么。其实登机口区域有很多的休息座椅区,一般情况下,乘客都是根据航班起飞的时间提前到达登机口区域进行候机的,所以候机口在飞机起飞前非常容易汇集乘客。根据以上的分析以及WIFI坐标点信息,Oh my god团队对于登机口以及WIFI进行了对应,再基于航班的信息表提取了相应的特征,并且使用GDBT进行回归分析。
997b479387d1854923c0b873256b773ea3d4d14f
下图是某一个WIFI点在某天平均接入量的连接图,图上红色点就是航班的起飞时间,可以明显看出,在航班起飞之前有业务量上涨的情况出现,并且其范围的确是有限的,而且对于前面不同时间点的影响是不一样的。
8873548d20d2a408f5ae0621081dc41868a80a63
WIFI的连入量与航班起飞的不同时间关系对应着不同的影响因子。Oh my god团队从大量的历史数据中统计出乘客的登机习惯,发现大多数乘客会选择在飞机起飞前50到100分钟内通过安检并进行候机,因为客流量是累计的过程,所以这里应该考虑累计率。一般情况下,乘客经过安检以后会直接去登机口候机,所以可以认为对于安检习惯统计出来的比例是起飞时间对应前面时段不同时间的影响因子的。
b2c53974ad3b5da420f5e6db5ed0e9c43a4ca5fa
除此之外,建模中还考虑了航班载客量的影响因素。其实在提取特征时是将航班的载客量以及影响因子一起考虑的,也就是假设某一个登机口处在后3小时内有两架航班要起飞,下图中的时间点2就是表示同时受到了两架航班的影响,所以会存在叠加的效果。
2c5d118a5e93fac4073a6577df9e2163a34cf5ab
对于特征工程而言,以3个小时作为时间跨度,每半个小时为粒度,统计了WIFI点附近登机口在未来不同时间段内的航班数目以及不同航班的乘客数目,根据乘客数目以及影响因子做了叠加的特征。除了以上两点之外,还使用了历史统计量等其他特征。在特征工程建立完成之后,Oh my god团队使用了GBDT对这一部分进行了回归,并完成了登机区域的建模。
c04529424c794885af068dd225d593f557fb1a04
总而言之,在整体架构上而言,就是将问题模型的构建分成了两部分。一部分是整体建模,另一部分是对于登机区域进行建模,对于整体进行建模考虑的是历史统计信息以及对于业务逻辑的理解,构建了专家系统和机器学习方法,将预测结果进行了融合作为最终整体区域建模的结果;对于登机区域而言,则考虑了安检信息和航班信息进行建模。Oh my god团队认为自己的方法优势在于整体区域建模能够比较好地把握WIFI点在某一个时间点的平均水平,而登机区域建模能够比较好地利用登机信息以及乘客的登机习惯对于登机口区域WIFI的波动做出比较好的拟合,两个模型结合起来可以进行优势互补,起到比较好的结果。

赛后总结
Oh my god团队谈到在经过了整个比赛,团队和成员都收获了很多,也得到了成长,并且也对于真实的业务数据有了更好的理解。他们感触比较深的就是充分认识到了业务的重要性,好的方法来源于对数据的分析和对于业务的理解,构造特征的过程就是刻画业务的过程。而在团队合作中也体会到了责任与担当,同时,Oh my god团队还谈到要感谢天池大数据平台和白云机场给了他们接触真实业务的机会,并且希望天池大数据平台能够越来越好。
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
22天前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
167 7
|
22天前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
36 2
|
19天前
|
存储 大数据 数据管理
大数据分区简化数据维护
大数据分区简化数据维护
24 4
|
29天前
|
存储 大数据 定位技术
大数据 数据索引技术
【10月更文挑战第26天】
54 3
|
29天前
|
存储 大数据 OLAP
大数据数据分区技术
【10月更文挑战第26天】
61 2
|
2月前
|
存储 机器学习/深度学习 分布式计算
大数据技术——解锁数据的力量,引领未来趋势
【10月更文挑战第5天】大数据技术——解锁数据的力量,引领未来趋势
|
1月前
|
数据采集 监控 数据管理
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第26天】随着信息技术的发展,数据成为企业核心资源。本文探讨大数据平台的搭建与数据质量管理,包括选择合适架构、数据处理与分析能力、数据质量标准与监控机制、数据清洗与校验及元数据管理,为企业数据治理提供参考。
78 1
|
2月前
|
分布式计算 关系型数据库 MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
大数据-88 Spark 集群 案例学习 Spark Scala 案例 SuperWordCount 计算结果数据写入MySQL
51 3
|
1月前
|
消息中间件 分布式计算 大数据
数据为王:大数据处理与分析技术在企业决策中的力量
【10月更文挑战第29天】在信息爆炸的时代,大数据处理与分析技术为企业提供了前所未有的洞察力和决策支持。本文探讨了大数据技术在企业决策中的重要性和实际应用,包括数据的力量、实时分析、数据驱动的决策以及数据安全与隐私保护。通过这些技术,企业能够从海量数据中提取有价值的信息,预测市场趋势,优化业务流程,从而在竞争中占据优势。
83 2
|
1月前
|
数据采集 分布式计算 大数据
数据治理之道:大数据平台的搭建与数据质量管理
【10月更文挑战第27天】在数字化时代,数据治理对于确保数据资产的保值增值至关重要。本文探讨了大数据平台的搭建和数据质量管理的重要性及实践方法。大数据平台应包括数据存储、处理、分析和展示等功能,常用工具如Hadoop、Apache Spark和Flink。数据质量管理则涉及数据的准确性、一致性和完整性,通过建立数据质量评估和监控体系,确保数据分析结果的可靠性。企业应设立数据治理委员会,投资相关工具和技术,提升数据治理的效率和效果。
80 2