IJCAI 2018国际广告算法大赛迁移学习夺冠,中国包揽冠亚季军

简介: IJCAI-18阿里妈妈国际广告算法大赛上周结束,来自中国的团队包揽了冠亚季军。冠军方案采用了迁移学习的方法,核心代码只有一页。

IJCAI 2018阿里妈妈国际广告算法大赛上周圆满结束,有来自50多个国家和地区的6000多名选手组成的5300多支队伍参赛(有700多名来自国外)。

中国团队包揽了前三名。

实际上,进入决赛的8支队伍均来自中国。

这代表了中国在整个互联网算法,在大数据、人工智能相关的研发中已经跟国际同步,甚至有所超前,阿里妈妈副总裁张勤在决赛答辩的致辞中说。

目前,各大公司纷纷举办算法大赛,提供数据、工具和真实的业务场景,吸引在学术界和工业界的顶尖人才。

谷歌收购Kaggle,微软收购Github,其中一个很大的因素,都在于后者所保有的开发者。

算法大赛本身,就是一场更大背景下的竞赛。

广告预估算法:价值千亿美元的学术问题

IJCAI与阿里有多年的大赛合作历史。IJCAI全称International Joint Conference on Artificial Intelligence,是人工智能领域最好的学术会议之一,涵盖机器学习、计算可持续性、图像识别、语音技术、视频技术等内容,在学术圈中享有很高声誉。

最近几年,IJCAI都会与阿里巴巴集团联合举办机器学习比赛,已经成为保留项目。阿里通过IJCAI的平台吸引更多的人关注阿里,IJCAI则通过阿里大赛吸引更多人关注和支持IJCAI,这是一个双赢,IJCAI大会代表、悉尼科技大学数据科学学院院长张成奇教授说。

今年的大赛与阿里妈妈合办,于2月初正式启动,是参赛人数最多,覆盖范围最广的一届——除了南极洲,其他6个大洲都有选手报名

4dee05667d255776702210c358bbd3ab9237d10c

截止今年4月的报名情况,选手覆盖范围非常广

这届算法大赛的主题是广告。

在当前的互联网生态系统,搜索广告是最常用的营销方法之一。广告商为产品设置几个关键字,然后将产品推荐给搜索了这些关键字的用户。据统计,截止2017年底,搜索广告的总收入已经超过1000亿美元,占互联网广告总收入的50%以上。搜索广告也为大多数互联网公司,比如Google和Facebook,贡献了大部分的收入。

搜索广告以也其巨大的商业价值和研究价值,吸引了大量的专家学者,在学术界得到了广泛的研究。

本次比赛以阿里电商广告为研究对象,使用阿里妈妈提供的海量真实交易数据,构建预测模型,预估用户的购买意向,也即广告的转化率。

电商平台作为一个复杂的生态系统,其中的用户行为偏好、商品长尾分布、热点事件营销等因素,都是转化率预估要解决的难题

大赛的评审告诉新智元,这种业务场景的不同,对于参赛着的挑战是不一样的;不同于传统搜索引擎中关注文本相关性,在购物场景下,模型需要对用户意图有更好的理解。因此,参赛者必须充分分析用户的行为特点,在特征设计和提出上有更多的创新。

本次大赛阿里妈妈拿出了用户在交易场景中的真实数据,含有用户真正的序列化的购物行为。初赛的数据集近60万,决赛超过1000万。

冠军技术分享:用迁移学习方法做广告转化预测

6月5日,进入决赛的8支队伍在杭州阿里巴巴总部做了最终答辩。

选手的平均年纪不到25岁,来自高校和产业界的都有,比例大约一半一半。根据赛前调查,大部分人参与的原因是出于兴趣和锻炼自己,当然也有人明确表示,是希望毕业后进入阿里妈妈就职。

上海交通大学助理教授张伟楠、国家科技部云计算专家组成员/天壤智能创始人及CEO薛贵荣、阿里巴巴研究员吴波、阿里巴巴资深算法专家杨红霞、阿里妈妈资深算法专家刘凯鹏等作为评委出席了答辩。

大赛评委表示,整体看,这次比赛大部分的方案都有比较强的系统性。选手在数据分析方面做了很多的工作,充分的理解了业务场景。在特征工程上,非常精细、全面,也有不少新颖和特别的特征设计。在模型选择上,充分考虑数据规模,业务特点,模型选择合理。

根据复赛成绩和现场答辩表现,评出了一二三等奖各一名,以及两名创新奖。

  • 一等奖:DOG(花志祥)

  • 二等奖:蓝鲸烧香队(周耀;李智;郭鹏博)

  • 三等奖:躺分队(陈波成,浙江工业大学;罗宾理,中南大学;吴昊,天津大学)

  • 创新奖(两名):

i) 禁止实习咋找工作啊(张卫民,中科院计算所;庄晓敏;中科院;李昊阳,香港科技大学)

ii) 强东队(李强,吉林大学;沈冬冬,山东大学;蒋浩然,中南大学)

冠军方案:采用迁移学习,核心代码仅一页

给评审留下深刻印象的是本次大赛的冠军队伍——虽然是“队伍”,但只有一个人,花志祥。

4fdeb97d73971f4bd40376ba12da4463a72e92c6

冠军花志祥与竞赛评委合影

花志祥是数据竞赛的老手,并且已在国内外多个算法大赛中斩获冠军。他的参赛口号/座右铭也非常简单——“一个字,干”。

评委表示,DOG对方案最大的特点整体非常简洁,设计思路清晰。针对这次比赛中测试数据和训练数据分布差异的问题,这个方案采用了一些迁移学习的方法利用训练数据。特征设计上有亮点,没有暴力地去融合很多特征,而是针对数据特性做了很简洁的特征设计。工程上也非常简洁,全部代码只有一页,有比较好的实用性。

4f1ba0c0a4e807a68eae1bae23681aa5ee150080

冠军方案模型示意

这次的赛题,结合淘宝平台的业务场景和不同的流量特点,分为日常转化率预估(初赛)和特殊日期的转化率预估(决赛)。初赛是提供前7天的记录预测第8天,复赛提供前7天和第8天上午的记录,预测第8天下午的情况。

通过分析,花志祥发现初赛的转化率每一天基本相似,但在复赛中,前7天跟第8天的差别很大。基于这种情况,他在决赛时做了一个模型,使用迁移学习的方法,用第1到7天的数据,预测第8天上午和下午,两者一起预测

在特征方面,使用了统计特征、时差特征、排序特征和表征特征这四种。统计特征就是用户点击的次数,看过的页数,搜索的小时,还有点击的品类的个数。时差是用户与商品item交互的时间距离;在真实的场景中,我们只能用到用户距离上次的时间,拿不到下次的时间,在整个比赛中,这有一定程度的数据穿越,所以最终采用的是用户点击某一个品类,距离上次的时间和下次的时间。排序特征是用户user与商品item的交互次数。最后,表征特征,用户对商品的哪些属性感兴趣,点击的ITEM有哪些属性,这样交互的特征越接近,购买的概率就越大。

最终的代码只有一页。

76880e912e912dc60afd40ff045bfdc626ae174f

创新方案:特征设计和端到端模型

我们特别介绍一下在大赛中,创新性得分最高的两支队伍,也即获得特别奖的禁止实习队和强东队。这两个团队一个在特征设计上比较有创新性,一个在模型的使用上应用了较新的模型。

其中,禁止实习队比较充分地挖掘了在淘宝的场景下用户序列性的浏览商品商店的行为,提出了新方法,对用户的序列化行为进行特征设计,拿到了比较好的效果。

d2273a811e24e44f8138d0ca594787fdb3b7a552

强东队则试图用end2end的深度学习来解CVR预估问题,相比其他团队,较有创新性,提出的方法接近工业界的架构。

11a4c2d6da985244d6292e5861d9875db21c5360

NN模型在大数据下将非常有优势,不同于基于手工设计特征的传统机器学习方案,采用NN应用于CVR或CTR预估问题,具有训练时间少,内存占用小且不需要人工设计特征的优势,实现端到端的训练,自动从数据中提取高阶特征。在这个方案里,不等长多值Field特征通过padding补成等长输入到Embedding层对原始稀疏特征进行映射,借鉴了DIN网络的思路,创建Attention层对多值特征进行加权。在模型中加入一阶的LR层学习单特征,二阶的FM层学习二阶交叉特征,MVM层学习无限阶交叉特征,并引入deep层学习高阶非线性组合关系。


原文发布时间为:2018-06-11

本文作者:文强

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”。

原文链接:IJCAI 2018国际广告算法大赛迁移学习夺冠,中国包揽冠亚季军

相关文章
|
2月前
|
存储 算法
数据结构与算法学习二二:图的学习、图的概念、图的深度和广度优先遍历
这篇文章详细介绍了图的概念、表示方式以及深度优先遍历和广度优先遍历的算法实现。
71 1
数据结构与算法学习二二:图的学习、图的概念、图的深度和广度优先遍历
|
1月前
|
存储 算法 安全
2024重生之回溯数据结构与算法系列学习之串(12)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丟脸好嘛?】
数据结构与算法系列学习之串的定义和基本操作、串的储存结构、基本操作的实现、朴素模式匹配算法、KMP算法等代码举例及图解说明;【含常见的报错问题及其对应的解决方法】你个小黑子;这都学不会;能不能不要给我家鸽鸽丢脸啊~除了会黑我家鸽鸽还会干嘛?!!!
2024重生之回溯数据结构与算法系列学习之串(12)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丟脸好嘛?】
|
2月前
|
缓存 算法 Java
JVM知识体系学习六:JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
这篇文章详细介绍了Java虚拟机(JVM)中的垃圾回收机制,包括垃圾的定义、垃圾回收算法、堆内存的逻辑分区、对象的内存分配和回收过程,以及不同垃圾回收器的工作原理和参数设置。
91 4
JVM知识体系学习六:JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
|
2月前
|
算法
动态规划算法学习三:0-1背包问题
这篇文章是关于0-1背包问题的动态规划算法详解,包括问题描述、解决步骤、最优子结构性质、状态表示和递推方程、算法设计与分析、计算最优值、算法实现以及对算法缺点的思考。
109 2
动态规划算法学习三:0-1背包问题
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
【EMNLP2024】基于多轮课程学习的大语言模型蒸馏算法 TAPIR
阿里云人工智能平台 PAI 与复旦大学王鹏教授团队合作,在自然语言处理顶级会议 EMNLP 2024 上发表论文《Distilling Instruction-following Abilities of Large Language Models with Task-aware Curriculum Planning》。
|
1月前
|
算法 安全 搜索推荐
2024重生之回溯数据结构与算法系列学习(8)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
数据结构王道第2.3章之IKUN和I原达人之数据结构与算法系列学习x单双链表精题详解、数据结构、C++、排序算法、java、动态规划你个小黑子;这都学不会;能不能不要给我家鸽鸽丢脸啊~除了会黑我家鸽鸽还会干嘛?!!!
|
1月前
|
存储 算法 安全
2024重生之回溯数据结构与算法系列学习之顺序表【无论是王道考研人还真爱粉都能包会的;不然别给我家鸽鸽丢脸好嘛?】
顺序表的定义和基本操作之插入;删除;按值查找;按位查找等具体详解步骤以及举例说明
|
1月前
|
算法 安全 搜索推荐
2024重生之回溯数据结构与算法系列学习之单双链表精题详解(9)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
数据结构王道第2.3章之IKUN和I原达人之数据结构与算法系列学习x单双链表精题详解、数据结构、C++、排序算法、java、动态规划你个小黑子;这都学不会;能不能不要给我家鸽鸽丢脸啊~除了会黑我家鸽鸽还会干嘛?!!!
|
1月前
|
存储 Web App开发 算法
2024重生之回溯数据结构与算法系列学习之单双链表【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
数据结构之单双链表按位、值查找;[前后]插入;删除指定节点;求表长、静态链表等代码及具体思路详解步骤;举例说明、注意点及常见报错问题所对应的解决方法
|
1月前
|
算法 安全 NoSQL
2024重生之回溯数据结构与算法系列学习之栈和队列精题汇总(10)【无论是王道考研人还是IKUN都能包会的;不然别给我家鸽鸽丢脸好嘛?】
数据结构王道第3章之IKUN和I原达人之数据结构与算法系列学习栈与队列精题详解、数据结构、C++、排序算法、java、动态规划你个小黑子;这都学不会;能不能不要给我家鸽鸽丢脸啊~除了会黑我家鸽鸽还会干嘛?!!!

热门文章

最新文章