《阿里云天池大赛赛题解析(机器学习篇)》导读

本文涉及的产品
云解析 DNS,旗舰版 1个月
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 《阿里云天池大赛赛题解析(机器学习篇)》导读

1 前言

作为大数据行业的从业人员和数据分析的爱好者,长期关注于kaggle和天池的比赛情况,也慢慢的见证了天池平台的成长。得到天池团队赠送的《阿里云天池大赛赛题解析(机器学习篇)》一书后,花了2个月的时间仔细读了一遍,可以用爱不释手来形容。因此,有了写一篇导读将这本书介绍给对于大数据算法有兴趣的朋友们。

2 全书概览

全书的结构围绕以下4道赛题组成:
(1)工业蒸汽量预测
(2)天猫用户重复购买预测
(3)O2O优惠券预测
(4)阿里云安全恶意程序检测
4道赛题所采用的算法模型都是机器学习算法,也符合本书的定位,没有涉及到深度学习的领域,实际上从近期天池平台的赛题设置包括kaggle的赛题设置可以发现,针对图像处理相关赛题的比重正在逐步变多,个人感觉是和现实生活包括工业场景中数据异构的情况占绝大部分有关。因此,如果纯粹的把算法的使用或者赛题的设置限制在结构化数据,则会对算法的落地产生麻烦,最终会造成因比赛而比赛,为了获奖而设计算法的情况,这明显不是天池比赛的初衷。而本书之所以会单独将机器学习算法赛题集结成册,个人感觉是成书的目标不仅仅是赛题的解读或者获奖选手的代码集锦,而是有教学目的的,这个从书中每道题的讲解顺序中也可以发现。

因此,从全书的结构角度虽然很可能乍一看觉得是讲了4道题的解答方法,但是4道题的代码解释明显用不了那么大的篇幅。仔细的看下去,就可以发现,其实是目前机器学习教科书中很特殊的一种写作方式,以赛题为核心,先以理论切入,后将理论结合赛题说明思路,最后是代码的解释。

由于机器学习的算法涉及到一些数学方面的知识(当然数学要求比深度学习略低),仅仅看理论的教材很容易让初学者有退却的心理,面对一大堆的公式无所适从,更不知道这些算法在实际过程中如何应用,而看论坛里各位大神的代码,又是没有理论解释的,天池团队的这本书正好填补了中间这个空白,因此也是让我爱不释手的原因。

3 本书细分章节的特点

本书的4道题,每道的细分章节都相似,其实就是整个数据科学家或者数据分析师工作的流程,当然缺少了数据采集的环节,原始数据作为赛题本身的一部分已经预先提供。

收到数据以后,之后的步骤就是数据概览(书里叫数据探索)、特征工程、模型训练、模型验证和作为提高的模型优化,当然也可能全部流程完成后发现瓶颈其实不在模型和调参,而在于特征工程没有做好,这个情况其实我觉得在进入一个陌生的领域时会经常发生,所以特别面向工业领域的算法设计,了解工艺生产流程是非常有必要的,甚至可以直接决定特征工程的结果。

数据探索方面,其主要的目的是对于数据集及数据的分布情况有一个全面的了解。如果对于机器学习的算法原理比较熟悉的话,在这个阶段已经会有意向中可能会采用的算法。书中,天池团队先进行了本阶段所需要理论知识的介绍,这一个部分中,所需要的理论知识基本属于统计范畴和可视化范畴,所得出的结果也是描述型的。从宏观上对于数据的分布有一个了解,细节上知道数据集的缺失值情况、各个维度间的相关性以及作为赛题来说训练集和测试集的关系。

特征工程方面,这个步骤其实占了全局绝大部分的工作量,比较繁琐,又不得不做,因为自然渠道收集到的各种数据多多少少存在问题。事实上,数据中台的价值一直被通俗的概括为数据驱动,看似宏观但从特征工程方面就可以准确理解什么是数据驱动。要驱动形形色色的功能业务,必然需要面对特定场景的数据,而采集的原始数据基本上都不能直接作为输入。因此,特征工程的任务就是将杂乱的原始数据整合成生产资料的过程。书中介绍的特征工程内容是全书的一个重头戏,也是其他参考书中比较少涉及到的领域,毕竟介绍模型和算法的参考书非常多,而包括降维、异常值检测、缺失值填充则只有全流程经历过并依靠实际的数据集处理展示才能讲明白。

模型的训练部分,书中提供了同一场景多种模型的解题思路,也是从算法的原理讲起,但是并不偏向纯数学,个人感觉,如果是面向工程的,足够,如果偏向算法原理改进等学术研究的,则还需要结合其他更偏重理论研究的参考资料,本书在这方面着眼于机器学习的面,并不过于纠结某个点。4道题的模型介绍基本覆盖了常用的机器学习算法,和kaggle同类题采用的算法也差不多,仔细看一遍能够了解整个领域的算法模型组成和具体的使用场景。

模型验证方面,主要由两部分的内容组成,即验证指标的选择和调参,验证指标方面书中并未完全拘泥于赛题的验证指标,对于不同算法所采用的验证指标介绍是非常详细的。调参方面,这其实是一个迭代过程,手工调参高手必然是结合了对算法原理的精通和大量的实际调参经验,而自动调参则是在经验法则下的反复尝试。

4 总结

总体这本书是一本非常好的教学读物,不可以单纯的将其视为赛题的归纳,天池团队在赛题之外全流程的介绍了数据分析和数据挖掘的过程,各个步骤的介绍都非常详细。平时作为备查的资料也相当不错,也非常期待后续有深度学习类的相同著作问世。

作者:朱祺 高级工程师 国际电气电子工程师协会IEEE高级会员 英国工程技术学会MIET 阿里云MVP

目录
相关文章
|
1月前
|
机器学习/深度学习 测试技术
阿里云入选Gartner数据科学和机器学习平台挑战者象限
Gartner® 正式发布了《数据科学与机器学习平台魔力象限》报告(Magic Quadrant™ for Data Science and Machine Learning Platforms),阿里云成为唯一一家入选该报告的中国厂商,被评为“挑战者”(Challengers)。
|
5天前
|
机器学习/深度学习 人工智能 弹性计算
阿里云GPU服务器全解析_GPU价格收费标准_GPU优势和使用说明
阿里云GPU云服务器提供强大的GPU算力,适用于深度学习、科学计算、图形可视化和视频处理等场景。作为亚太领先的云服务商,阿里云GPU云服务器具备高灵活性、易用性、容灾备份、安全性和成本效益,支持多种实例规格,满足不同业务需求。
|
15天前
|
机器学习/深度学习 人工智能 自然语言处理
【EMNLP2024】阿里云人工智能平台 PAI 多篇论文入选 EMNLP2024
阿里云人工智能平台 PAI 的多篇论文在 EMNLP2024 上入选。论文成果是阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发。EMNLP 是人工智能自然语言处理领域的顶级国际会议,聚焦于自然语言处理技术在各个应用场景的学术研究,尤其重视自然语言处理的实证研究。该会议曾推动了预训练语言模型、文本挖掘、对话系统、机器翻译等自然语言处理领域的核心创新,在学术和工业界都有巨大的影响力。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
阿里云人工智能平台 PAI 团队发表的图像编辑算法论文在 MM2024 上正式亮相发表。ACM MM(ACM国际多媒体会议)是国际多媒体领域的顶级会议,旨在为研究人员、工程师和行业专家提供一个交流平台,以展示在多媒体领域的最新研究成果、技术进展和应用案例。其主题涵盖了图像处理、视频分析、音频处理、社交媒体和多媒体系统等广泛领域。此次入选标志着阿里云人工智能平台 PAI 在图像编辑算法方面的研究获得了学术界的充分认可。
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
|
1月前
|
机器学习/深度学习 自然语言处理 JavaScript
信息论、机器学习的核心概念:熵、KL散度、JS散度和Renyi散度的深度解析及应用
在信息论、机器学习和统计学领域中,KL散度(Kullback-Leibler散度)是量化概率分布差异的关键概念。本文深入探讨了KL散度及其相关概念,包括Jensen-Shannon散度和Renyi散度。KL散度用于衡量两个概率分布之间的差异,而Jensen-Shannon散度则提供了一种对称的度量方式。Renyi散度通过可调参数α,提供了更灵活的散度度量。这些概念不仅在理论研究中至关重要,在实际应用中也广泛用于数据压缩、变分自编码器、强化学习等领域。通过分析电子商务中的数据漂移实例,展示了这些散度指标在捕捉数据分布变化方面的独特优势,为企业提供了数据驱动的决策支持。
58 2
信息论、机器学习的核心概念:熵、KL散度、JS散度和Renyi散度的深度解析及应用
|
19天前
|
存储 弹性计算 NoSQL
"从入门到实践,全方位解析云服务器ECS的秘密——手把手教你轻松驾驭阿里云的强大计算力!"
【10月更文挑战第23天】云服务器ECS(Elastic Compute Service)是阿里云提供的基础云计算服务,允许用户在云端租用和管理虚拟服务器。ECS具有弹性伸缩、按需付费、简单易用等特点,适用于网站托管、数据库部署、大数据分析等多种场景。本文介绍ECS的基本概念、使用场景及快速上手指南。
60 3
|
30天前
|
域名解析 网络协议
非阿里云注册域名如何在云解析DNS设置解析?
非阿里云注册域名如何在云解析DNS设置解析?
|
1月前
|
机器学习/深度学习 算法 Python
深度解析机器学习中过拟合与欠拟合现象:理解模型偏差背后的原因及其解决方案,附带Python示例代码助你轻松掌握平衡技巧
【10月更文挑战第10天】机器学习模型旨在从数据中学习规律并预测新数据。训练过程中常遇过拟合和欠拟合问题。过拟合指模型在训练集上表现优异但泛化能力差,欠拟合则指模型未能充分学习数据规律,两者均影响模型效果。解决方法包括正则化、增加训练数据和特征选择等。示例代码展示了如何使用Python和Scikit-learn进行线性回归建模,并观察不同情况下的表现。
265 3
|
1月前
|
机器学习/深度学习 人工智能 算法
揭开深度学习与传统机器学习的神秘面纱:从理论差异到实战代码详解两者间的选择与应用策略全面解析
【10月更文挑战第10天】本文探讨了深度学习与传统机器学习的区别,通过图像识别和语音处理等领域的应用案例,展示了深度学习在自动特征学习和处理大规模数据方面的优势。文中还提供了一个Python代码示例,使用TensorFlow构建多层感知器(MLP)并与Scikit-learn中的逻辑回归模型进行对比,进一步说明了两者的不同特点。
63 2
|
22天前
|
运维 Cloud Native 持续交付
云原生技术解析:从IO出发,以阿里云原生为例
【10月更文挑战第24天】随着互联网技术的不断发展,传统的单体应用架构逐渐暴露出扩展性差、迭代速度慢等问题。为了应对这些挑战,云原生技术应运而生。云原生是一种利用云计算的优势,以更灵活、可扩展和可靠的方式构建和部署应用程序的方法。它强调以容器、微服务、自动化和持续交付为核心,旨在提高开发效率、增强系统的灵活性和可维护性。阿里云作为国内领先的云服务商,在云原生领域有着深厚的积累和实践。
51 0

推荐镜像

更多