2016“数据引领 飞粤云端”广东航空大数据创新大赛极客奖:Oh my god团队

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 2016“数据引领 飞粤云端”广东航空大数据创新大赛,由广东省人民政府和阿里巴巴集团联合主办,旨在提高全社会对大数据价值的认识,培养大数据应用人才,鼓励数据创新创业实践,推动航空大数据技术成果转化和落地。本文整理自本次大赛极客奖获奖团队Oh my god的现场答辩。
摘要:2016“数据引领 飞粤云端”广东航空大数据创新大赛,由广东省人民政府和阿里巴巴集团联合主办,旨在提高全社会对大数据价值的认识,培养大数据应用人才,鼓励数据创新创业实践,推动航空大数据技术成果转化和落地。本文整理自本次大赛极客奖获奖团队Oh my god的现场答辩。

本文整理自获得2016“数据引领 飞粤云端”广东航空大数据创新大赛获得极客奖的Oh my god团队的答辩视频。Oh my god团队中的三名成员都是西安电子科技大学研二的学生,同时也都是数据挖掘的爱好者,以下为团队简介:
24eb8dc05b1d0160eb90a3648c999c3a6f6db1dd
Oh my god团队的答辩中主要围绕了以下四个方面:
  1. 赛题背景
  2. 数据分析
  3. 解决方案
  4. 赛后总结
赛题背景
正如赛题介绍中所描述的,对于机场客流量的预测其实是非常有意义的。而本次大赛为比赛团队提供了白云机场两个月的数据记录,包括WIFI连接记录、安检记录以及航班排班表等数据信息,并要求对于未来两个整天,也就是11月11号以及11月12号每个WIFI点10分钟内的平均设备的数量进行预测,测评的公式如下图所示。

4ccdbcb166ba43525fa7b30240cac251b1ded0e4


数据分析
在数据分析阶段,Oh my god团队将白云机场划分成了5个区域,分别是最中间的航站楼以及东西两边各有的两片登记区域,以及连接航站楼和登机区域的两片走廊。对于这些区域进行简单的可视化分析发现不同区域的客流量的均值和波动性存在很大的差别,登机区域的客流量波动是比较大的,同时业务量也是比较大的;相比而言,航站楼区域和走廊区域的客流量就比较稳定,并且Oh my god团队对此提供了数据统计来支撑这一观点。
a71aaeb4968fac79547bedcfed1b34d913cc721e
白云机场的登机区域具有大业务量、大波动的特点,这是预测的难点和重点,所以Oh my god团队对这个区域进行了单独的分析和建模。他们在进行数据分析时也尝试着使用历史的统计量对WIFI的接入量进行了拟合,并发现历史统计量是非常有意义的,其对于某一个WIFI在某一时间点的平均水平有非常好的把握,但是对于登机区域WIFI的波动却不能很好地拟合。
e40dfdd022a492726b6d55001f73e82b37493ba7
根据以上的分析,Oh my god团队构建了两个主要模型。一个是基于历史信息的整体区域模型,另一个是基于航班分析的登机区域模型。
eb8713f8fbefab5fb5107b667a11f700a3b49444

解决方案
Oh my god团队首先对于整体区域进行建模,这部分使用了两种方法进行,一种是专家系统,也就是规则方法,另外一种是机器学习方法。Oh my god团队在进行数据分析时考虑了以下的影响因素,首先是WIFI历史连接量的统计信息,这个统计信息对于平均量的把握是非常有意义的,而且因为预测的是每十分钟的接入量,所以时段的影响也必须要考虑,除此之外还考虑了星期、节假日以及楼层区域的影响,加上数据信息以及对于业务的理解就构建了这样的一个专家系统。并且基于这些信息,提取了特征并且构建了机器学习方法,而且该模型使用的机器学习方法包含了两种,一种是GBDT,另外一种则是线性回归。最后,将规则结果以及机器学习的结果进行了融合,得到最终整体区域建模的结果。
8a4378092411e94df443829888dcc1e892180c08
接下来,介绍建模中使用的规则方法。如何通过历史统计量进行合理地预测呢?Oh my god团队认为这需要依赖于背后的业务逻辑,并且他们根据数据分析得到了如下图所示的一些业务逻辑。
54b52292e814fc9c948efcdf219e972020bc5480
业务逻辑中的前两条其实可以看做是数据预处理的过程,也就是除去一些业务缺失以及节假日的时间点,因为需要预测的两天不是节假日,所以像国庆节这样日期的数据对于分析的干扰是比较大的,必须要去除的。除此之外,在模型中还做了平滑来去除异常点的影响。对于第三点,近期历史业务的统计均值是具有较强的参考价值的,也就是说离预测时间越近,数据的统计和参考意义就越强。

对于星期的相关性而言,需要预测的两天11号和12号分别是周五和周六,一般而言这两天的业务量会比较大,所以星期的影响也必须要考虑进去。最后一点是不同楼层,不同区域的WIFI点对于时间的敏感程度不一致,这一点无论是通过线上测试还是天池对于成绩的反馈都给出一个感觉:3楼业务量大,波动也大,对于时间的敏感程度也比较高,所以在进行分析时,时间跨度取得短一些比较好;而1,2楼业务量比较稳定,所以时间跨度可以取长一些。Oh my god团队的模型就是基于以上的这些业务逻辑来做的,换句话说也就是以业务为本的。
da31c0efcbd8da9983fa0131b424e50c7e45320d
接下来,Oh my god团队介绍了他们所使用到的机器学习方法。首先,他们使用了特征工程,将WIFI的ID、所处的时段、楼层区域等进行了one-hat编码作为一个特征,并且做了一些统计量,前1,3,5,7,14天对应十分钟,对应小时统计信息以及星期、区域的统计信息作为相应的特征,并且统计了WIFI的接入量及方差排名特征。而且为了表现不同特征之间的交互信息还做了交叉特征。
efa46c9064b50fe90b1499d0fcf220088e12f649
因为要预测11月11号和12号的信息,为了保证时效性,Oh my god团队选取了9号和10号的数据作为测试集,而使用之前的时间段作为序列集,并且在提取特征的时候使用了滑动窗口的方式。而在提取特征之前的数据预处理也是非常重要的,值得强调的一点是训练集的选择也是非常重要的,虽然需要预测的两天是周五和周六,但是与之前的周五、周六相比,这两天的业务量没有那么大,所以在选择的时候需要保证训练集和线上测试集的一致性。

划分完数据集、做完特征工程之后,Oh my god团队使用了GBDT和线性回归来进行预测,并结合刚才所提到的规则方法,将结果进行融合并作为整体区域建模的最终结果。

登机口区域的业务量比较大,其波动也比较大,所以对其进行了单独的分析建模,而这里分析的重点就是要找出隐藏在这些波动背后的原因究竟是什么。其实登机口区域有很多的休息座椅区,一般情况下,乘客都是根据航班起飞的时间提前到达登机口区域进行候机的,所以候机口在飞机起飞前非常容易汇集乘客。根据以上的分析以及WIFI坐标点信息,Oh my god团队对于登机口以及WIFI进行了对应,再基于航班的信息表提取了相应的特征,并且使用GDBT进行回归分析。
997b479387d1854923c0b873256b773ea3d4d14f
下图是某一个WIFI点在某天平均接入量的连接图,图上红色点就是航班的起飞时间,可以明显看出,在航班起飞之前有业务量上涨的情况出现,并且其范围的确是有限的,而且对于前面不同时间点的影响是不一样的。
8873548d20d2a408f5ae0621081dc41868a80a63
WIFI的连入量与航班起飞的不同时间关系对应着不同的影响因子。Oh my god团队从大量的历史数据中统计出乘客的登机习惯,发现大多数乘客会选择在飞机起飞前50到100分钟内通过安检并进行候机,因为客流量是累计的过程,所以这里应该考虑累计率。一般情况下,乘客经过安检以后会直接去登机口候机,所以可以认为对于安检习惯统计出来的比例是起飞时间对应前面时段不同时间的影响因子的。
b2c53974ad3b5da420f5e6db5ed0e9c43a4ca5fa
除此之外,建模中还考虑了航班载客量的影响因素。其实在提取特征时是将航班的载客量以及影响因子一起考虑的,也就是假设某一个登机口处在后3小时内有两架航班要起飞,下图中的时间点2就是表示同时受到了两架航班的影响,所以会存在叠加的效果。
2c5d118a5e93fac4073a6577df9e2163a34cf5ab
对于特征工程而言,以3个小时作为时间跨度,每半个小时为粒度,统计了WIFI点附近登机口在未来不同时间段内的航班数目以及不同航班的乘客数目,根据乘客数目以及影响因子做了叠加的特征。除了以上两点之外,还使用了历史统计量等其他特征。在特征工程建立完成之后,Oh my god团队使用了GBDT对这一部分进行了回归,并完成了登机区域的建模。
c04529424c794885af068dd225d593f557fb1a04
总而言之,在整体架构上而言,就是将问题模型的构建分成了两部分。一部分是整体建模,另一部分是对于登机区域进行建模,对于整体进行建模考虑的是历史统计信息以及对于业务逻辑的理解,构建了专家系统和机器学习方法,将预测结果进行了融合作为最终整体区域建模的结果;对于登机区域而言,则考虑了安检信息和航班信息进行建模。Oh my god团队认为自己的方法优势在于整体区域建模能够比较好地把握WIFI点在某一个时间点的平均水平,而登机区域建模能够比较好地利用登机信息以及乘客的登机习惯对于登机口区域WIFI的波动做出比较好的拟合,两个模型结合起来可以进行优势互补,起到比较好的结果。

赛后总结
Oh my god团队谈到在经过了整个比赛,团队和成员都收获了很多,也得到了成长,并且也对于真实的业务数据有了更好的理解。他们感触比较深的就是充分认识到了业务的重要性,好的方法来源于对数据的分析和对于业务的理解,构造特征的过程就是刻画业务的过程。而在团队合作中也体会到了责任与担当,同时,Oh my god团队还谈到要感谢天池大数据平台和白云机场给了他们接触真实业务的机会,并且希望天池大数据平台能够越来越好。
相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
存储 大数据 数据挖掘
【数据新纪元】Apache Doris:重塑实时分析性能,解锁大数据处理新速度,引爆数据价值潜能!
【9月更文挑战第5天】Apache Doris以其卓越的性能、灵活的架构和高效的数据处理能力,正在重塑实时分析的性能极限,解锁大数据处理的新速度,引爆数据价值的无限潜能。在未来的发展中,我们有理由相信Apache Doris将继续引领数据处理的潮流,为企业提供更快速、更准确、更智能的数据洞察和决策支持。让我们携手并进,共同探索数据新纪元的无限可能!
82 11
|
2月前
|
存储 分布式计算 大数据
MaxCompute 数据分区与生命周期管理
【8月更文第31天】随着大数据分析需求的增长,如何高效地管理和组织数据变得至关重要。阿里云的 MaxCompute(原名 ODPS)是一个专为海量数据设计的计算服务,它提供了丰富的功能来帮助用户管理和优化数据。本文将重点讨论 MaxCompute 中的数据分区策略和生命周期管理方法,并通过具体的代码示例来展示如何实施这些策略。
89 1
|
2月前
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
数据平台问题之在数据影响决策的过程中,如何实现“决策/行动”阶段
|
2月前
|
存储 监控 安全
大数据架构设计原则:构建高效、可扩展与安全的数据生态系统
【8月更文挑战第23天】大数据架构设计是一个复杂而系统的工程,需要综合考虑业务需求、技术选型、安全合规等多个方面。遵循上述设计原则,可以帮助企业构建出既高效又安全的大数据生态系统,为业务创新和决策支持提供强有力的支撑。随着技术的不断发展和业务需求的不断变化,持续优化和调整大数据架构也将成为一项持续的工作。
|
2月前
|
分布式计算 安全 大数据
MaxCompute 的安全性和数据隐私保护
【8月更文第31天】在当今数字化转型的时代背景下,企业越来越依赖于大数据分析来推动业务增长。与此同时,数据安全和隐私保护成为了不容忽视的关键问题。作为阿里巴巴集团推出的大数据处理平台,MaxCompute(原名 ODPS)致力于为企业提供高效、安全的数据处理解决方案。本文将探讨 MaxCompute 在数据安全方面的实践,包括数据加密、访问控制及合规性考虑等方面。
71 0
|
2月前
|
分布式计算 DataWorks 关系型数据库
DataWorks产品使用合集之ODPS数据怎么Merge到MySQL数据库
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
|
2月前
|
消息中间件 数据采集 JSON
大数据 - DWD&DIM 行为数据
大数据 - DWD&DIM 行为数据
44 1
|
2月前
|
机器学习/深度学习 人工智能 分布式计算
理解并利用大数据的力量:解锁数据背后的价值
【8月更文挑战第7天】大数据已成为推动社会进步和经济发展的重要力量。通过理解并利用大数据的力量,企业可以解锁数据背后的价值,优化业务流程、提升决策效率和创新能力。然而,大数据应用也面临着诸多挑战和风险,需要企业不断学习和实践以应对。相信在未来的发展中,大数据将为我们带来更多的惊喜和机遇。
|
2月前
|
数据采集 数据挖掘 Python
python爬虫去哪儿网上爬取旅游景点14万条,可以做大数据分析的数据基础
本文介绍了使用Python编写的爬虫程序,成功从去哪儿网上爬取了14万条旅游景点信息,为大数据分析提供了数据基础。
|
2月前
|
存储 分布式计算 大数据
大数据处理竟然这么简单?学会这几招,你也能在数据洪流中游刃有余,秒变数据大师!
【8月更文挑战第6天】面对海量数据,有效处理成为关键。本文介绍大规模数据处理的核心挑战及解决方案,涵盖分布式存储(如HDFS)和计算(如Spark)。通过示例代码展示HDFS文件读写及Spark数据处理流程。此外,还强调了数据质量、安全及合理资源配置的重要性,助您在数据海洋中洞察先机。
61 1

热门文章

最新文章

下一篇
无影云桌面