阿里妈妈首次公开新一代自研智能检索模型 | WWW 2018论文解读

简介: 阿里搜索直通车广告业务有着巨大的体量和影响力,其技术工作具有非常高的挑战性。本次阿里妈妈在WWW 2018公开的新一代智能检索模型工作,是搜索直通车算法团队的同学一次从实践出发,将技术创新和业务诉求相结合的范例。

1a92f12b1d38c674e73179475549c6a10c6e0e86

WWW大会(The International World Wide Web Conference),是一年一度关于互联网未来发展方向的首要国际学术会议,旨在聚集世界各地学术界和工业界的精英,一起进行关于网络演进、相关技术标准化等前沿话题的分享与讨论。

WWW 2018将于4月在法国里昂举办,其中阿里巴巴一篇介绍搜索直通车新一代智能广告检索模型的论文《Beyond Keywords and Relevance: A Personalized Ad Retrieval Framework in E-Commerce Sponsored Search》以其独特的原创性被大会收录,评委一致认为该方法是对传统搜索广告检索框架的重新定义。这篇论文将在会议上进行口头报告。

搜索直通车是阿里巴巴为淘宝和天猫卖家量身定制,按点击付费的效果营销工具,其承载的淘系搜索广告业务是阿里巴巴电商生态体系下的最重要业务之一,在创造整个集团主力营收的同时,也承担着重要的生态调节功能。本次阿里WWW 2018论文,是搜索直通车首次公开其自研的新一代智能检索模型,价值巨大。

阿里搜索直通车广告业务有着巨大的体量和影响力,其技术工作有着非常高的挑战性。面对淘系搜索广告业务场景中真实存在的各种痛点和挑战,阿里技术一线的同学们不断地进行技术探索,通过一次次的技术突破和创新,解决了大量的业务难题。本次阿里妈妈在WWW 2018公开的新一代智能检索模型工作,就是搜索直通车算法团队的同学一次从实践出发,将技术创新和业务诉求相结合的范例。

81a1f53279441e3d034805b777b44bcf21d24c77

图1:“新一代”搜索广告智能检索框架

在论文中,阿里的技术同学突破了以“关键词”和“相关性”为核心的传统搜索广告检索框架,提出了新一代的搜索广告智能检索模型。新一代搜索广告智能检索模型引入用户行为异构图挖掘、机器学习等相关技术,通过模型学习的方式智能构建索引,解决了传统搜索广告检索系统不能解决的种种痛点,在搜索直通车业务线上取得了出色的效果,给广告商、用户和平台带来了三赢。

85bf80a05fb2efa44f4bcbdeeffdcd0b3297f084

图2:搜索广告系统由三方参与:广告商、用户和系统平台

在搜索广告系统中,每一次搜索广告的展示、点击和转化都需要三个参与方(广告商、用户和平台)的密切合作。平台是用户搜索请求和广告商投放的广告之间的桥梁,进行着流量匹配、广告展现等工作。其中,广告检索模块负责理解用户的搜索意图,快速准确地从海量广告中检索出一个小规模的高质量广告候选集。广告检索模块需要兼顾系统的效果与效率,因此在算法工作中存在着巨大的技术挑战。

在传统的搜索广告系统中,广告商必须为自己的广告选择竞价关键词。平台进行广告检索时会受到竞价关键词的约束。如果广告商没有事先为广告购买相应的关键词,那么即使用户搜索请求与广告紧密相关,平台也不会检索回这些广告。但是,受限于市场信息的缺失和投放管理的巨大成本,广告商有时并不能及时准确地为自己的广告选择出最合适的关键词。在这种情况下,广告检索算法不能实现最优的流量匹配,给广告商、用户和平台三方均带来了损失。

此外,传统的搜索广告检索模型只关注于搜索请求与广告之间的相关性;这往往和平台的目标(RPM、CTR、GMV等)并不完全一致。如何在考虑相关性的同时,兼顾平台目标和用户体验,是广告检索模型需要解决的巨大难点。

近年来,越来越多的个性化信息被引入电商搜索广告系统,如用户在平台上的浏览、点击、交易等行为。一方面,这些个性化信息能够帮助广告检索模型更好地理解用户的搜索意图。但另一方面,个性化信息也给广告检索带了新的挑战:面对从各种复杂丰富的个性化信号通道检索回的广告,检索模型需要能够高效、准确地对其按照统一标准快速排序。这个问题,在目前已知的工作中,均没有得到有效地解决。

544b737d18bd62d89f3b6f066be72d92e52ff916

图3:用户行为异构图图示例。图中包含了三种节点:用户搜索信号、广告检索键和广告。用户搜索信号和广告检索键之间的边表示改写,广告检索键和广告之间的边表示广告海选。

面对上述传统搜索广告检索系统中存在的各种难题和挑战,阿里妈妈搜索直通车算法团队的同学提出了一种创新的搜索广告智能检索系统。新的智能检索系统首先使用用户在平台上的历史行为构建出一张庞大复杂的用户行为异构图。异构图中节点分别表示“用户搜索信号”、“广告检索键”和“广告”,边分别表示“用户搜索意图信号改写”关系和“广告召回”关系。接着,检索系统面向平台RPM、CTR等指标,学习异构图中边的权重,挖掘出重要的改写关系和广告召回关系。

这样,通过对异构图的深入挖掘,检索系统同时进行了“用户搜索意图信号改写”和“广告召回”两个检索子任务的统一联合学习。最后,检索系统根据模型的边挖掘结果,自动构建相应的“改写索引”和“广告召回索引”。通过两个模型智能构建的索引,检索系统将用户行为异构图和模型挖掘结果存储下来,实现了对线上搜索请求的高效检索。由于新的智能检索模型不再强制要求广告商购买关键词,所以新的检索系统使用OCPC策略,在保证广告商ROI的基础上,决定广告的点击收费。

bd04d617e11648614f6caee863e1c484c12aeed4

图4:用户行为异构图庞大复杂,包含上百亿的节点和上千亿的边

005238ec363dbf58cd90ac187576eec6713458a0

图5:在考虑相关性的同时,模型智能构建的线上庞大索引兼顾了平台收益和用户体验

阿里妈妈搜索直通车业务有着巨大的体量和规模庞大的用户数据,因此新的智能广告检索模型在实际落地过程中,也面临着各种技术挑战。例如,在新的广告检索系统中,用户行为异构图庞大复杂,包含了上百亿的节点和上万亿的边,使得模型训练非常困难。为了兼顾检索系统的的效果和性能,阿里技术同学提出了多种异构图初始化方法,在尽量保留重要关系的前提下,实现了对异构图的剪枝,给模型的训练提供了良好的起点。

又例如,在搜索广告检索阶段,为了提高检索效率,模型无法获取足够多的信息或者使用过于复杂的特征。因此,在新的检索模型中,阿里技术同学有针对性地设计了两种“粒度”不同特征:稀疏特征和连续特征。前者是一种细粒度的特征,保证了模型效果;后者则是一种粗粒度特征,用于提高模型的覆盖能力和稳定性。

8a87889c0dddf5e7df3db9373b8779df33e6e596

图5:离线模型效果

30afd8cfc8ac436e8033b7b8ae559ca9fa3da664

图6:出色的线上效果

新的智能搜索广告检索模型,在搜索直通车平台上取得了出色的效果,给广告商、用户和平台带来了三赢:新的检索模型通过OCPC的方式自动为广告出价,在保证了广告商的ROI前提下,把广告商从繁重的买词任务中解放了出来;通过引入丰富的个性化信号,新的检索模型能够更好地理解用户的搜索意图,达成更准确的流量匹配,提升了用户体验;新的检索模型不再单纯以相关性为目标,而是综合考虑平台的目标和用户的体验,提升了平台收益,也维护了平台的生态环境。

阿里妈妈在WWW 2018论文中公布的新一代搜索广告智能检索模型,不仅仅是国际一流的学术成果,更是搜索直通车算法团队的一线技术同学,以技术为驱动,服务广大淘宝、天猫用户和卖家的真实实践。


原文发布时间为:2018-01-12

本文作者:闫肃,林伟,吴天舒,肖道锐,吴波,刘凯鹏

本文来自云栖社区合作伙伴“阿里技术”,了解相关信息可以关注“阿里技术”微信公众号

相关文章
|
11天前
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
260 0
|
1天前
|
数据采集 机器学习/深度学习 存储
性能提升30%!中国电信进一步开源12B星辰大模型TeleChat-12B!魔搭社区最佳实践来啦!
中国电信人工智能研究院开源12B参数规模星辰语义大模型TeleChat-12B,相较1月开源7B版本,内容、性能和应用等方面整体效果提升30%,其中,多轮推理、安全问题等领域提升超40%。在C-eval、MMLU、AGIEVAL等国际权威榜单上,排名处于国内同级别参数开源模型的前列,进一步促进大模型开源生态繁荣,助力AI产业加速高质量发展。另据悉,中国电信人工智能研究院将于年内开源千亿级参数大模型。
|
1月前
|
人工智能
阿里数赛首次向AI开放!
【2月更文挑战第24天】阿里数赛首次向AI开放!
20 1
阿里数赛首次向AI开放!
|
1月前
|
数据采集 人工智能 自然语言处理
上海AI实验室开源发布高质量语料“万卷CC”
【2月更文挑战第17天】上海AI实验室开源发布高质量语料“万卷CC”
53 2
上海AI实验室开源发布高质量语料“万卷CC”
|
2月前
|
人工智能 Cloud Native 搜索推荐
金融先锋联盟发布17份联合解决方案,首次聚焦AI应用场景探索
金融先锋联盟发布17份联合解决方案,首次聚焦AI应用场景探索
67 0
|
11月前
|
数据采集 人工智能 自然语言处理
大规模、高性能,清华、聆心智能推出中文开放域对话预训练开源模型OPD
大规模、高性能,清华、聆心智能推出中文开放域对话预训练开源模型OPD
264 0
|
11月前
|
存储 算法 UED
颠覆传统、大规模检索系统首次引入「热刷新」模型升级,腾讯ARC Lab论文入选ICLR 2022
颠覆传统、大规模检索系统首次引入「热刷新」模型升级,腾讯ARC Lab论文入选ICLR 2022
|
机器学习/深度学习 人工智能 自然语言处理
国内唯一!阿里云机器学习平台PAI同时入选Gartner两项权威报告
日前,国际权威研究机构 Gartner 连续发布两份 AI 领域研究报告,阿里云机器学习平台 PAI 蝉联上榜。
国内唯一!阿里云机器学习平台PAI同时入选Gartner两项权威报告
|
存储 机器学习/深度学习 传感器
Qcon大会·上海站:探索自动驾驶 AI 训练的统一存储演进之路
Qcon大会·上海站:探索自动驾驶 AI 训练的统一存储演进之路
475 0
Qcon大会·上海站:探索自动驾驶 AI 训练的统一存储演进之路
|
机器学习/深度学习 存储 人工智能
比Faiss更胜一筹?达摩院自主研发的向量检索引擎Proxima首次公开!
淘宝搜索推荐、视频搜索背后使用了什么样的检索技术?非结构化数据检索,向量检索,以及多模态检索,它们到底解决了什么问题?今天由阿里达摩院的科学家从业务问题出发,抽丝剥茧,深度揭秘达摩院内部技术,向量检索引擎 Proxima,以及相关领域的现状、挑战和未来。
2759 0
比Faiss更胜一筹?达摩院自主研发的向量检索引擎Proxima首次公开!