淘宝粗排问题之在粗排模型中引入交叉特征如何解决

简介: 淘宝粗排问题之在粗排模型中引入交叉特征如何解决

问题一:离线hitrate提升幅度与线上A/B test中hitrate提升幅度的一致性如何?


离线hitrate提升幅度与线上A/B test中hitrate提升幅度的一致性如何?


参考回答:

离线hitrate提升幅度与线上A/B test中hitrate提升幅度的一致性取决于多种因素。场景内提升幅度离在线必定不同,因为精排候选集分布的变化会影响最终指标。场景外提升幅度也可能不同,这取决于场景外转化到场景内的情况以及在线生效问题。如果场景外提升幅度相同且没有转化到场景内,则需要进一步分析粗排后续阶段对粗排新召回商品的认可程度。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654794



问题二:蒸馏样本的进一步扩充是如何进行的 ? 会遇到哪些问题?


蒸馏样本的进一步扩充是如何进行的 ? 会遇到哪些问题?


参考回答:

蒸馏样本的进一步扩充主要包括三种尝试:单独添加引入M个未曝光样本的蒸馏、去掉base中的pv distill loss增加一个N+M+K的蒸馏、保留base的蒸馏loss并添加一个N+M+K的蒸馏。

在尝试过程中,会遇到:

一是随机负样本中的未曝光样本的精排分数可能会高于曝光样本,二是未曝光商品的后验P(海选->曝光)=0,难以直接表征从海选到点击的概率。通过分析和实验,最终发现保留base蒸馏loss并添加一个N+M+K的蒸馏方案效果最好。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654795



问题三:为什么需要引入更多的特征到粗排模型中?


为什么需要引入更多的特征到粗排模型中?


参考回答:

引入更多的特征到粗排模型中是为了进一步加强粗排模型的表达能力,并提高与精排模型的一致性。这些特征主要包括用户画像特征和用户的长期成交序列,它们能帮助粗排模型更准确地建模用户侧信息。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654796



问题四:如何尝试在粗排模型中引入交叉特征?


如何尝试在粗排模型中引入交叉特征?


参考回答:

为了向粗排模型中引入交叉特征,我们在原有的Item Tower和User Tower的基础上引入了Cross Tower。Cross Tower的输出向量与User侧向量计算内积,并与原有的内积结果相加得到最终的计算结果。然而,在离线和在线实验中,加入交叉特征并未带来显著的效果提升。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654797



问题五:为什么从内积模型结构切换到MLP结构没有带来预期的效果提升?


为什么从内积模型结构切换到MLP结构没有带来预期的效果提升?


参考回答:

从内积模型结构切换到MLP结构并没有带来预期的效果提升,可能是因为MLP结构需要更多的特征输入才能发挥其优势,而在粗排场景下,由于性能和效率的限制,无法引入过多的特征。此外,MLP结构本身也可能不适合粗排阶段的特点。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654798

目录
打赏
0
0
0
0
643
分享
相关文章
淘宝粗排问题之引入未曝光样本和随机负样本对粗排模型有何影响,如何解决
淘宝粗排问题之引入未曝光样本和随机负样本对粗排模型有何影响,如何解决
推荐系统[二]:召回算法超详细讲解[召回模型演化过程、召回模型主流常见算法(DeepMF_TDM_Airbnb Embedding_Item2vec等)、召回路径简介、多路召回融合]
推荐系统[二]:召回算法超详细讲解[召回模型演化过程、召回模型主流常见算法(DeepMF_TDM_Airbnb Embedding_Item2vec等)、召回路径简介、多路召回融合]
推荐系统[二]:召回算法超详细讲解[召回模型演化过程、召回模型主流常见算法(DeepMF_TDM_Airbnb Embedding_Item2vec等)、召回路径简介、多路召回融合]
|
6月前
淘宝粗排问题之对粗排阶段打分集合归因到对应的场景内和场景外成交如何解决
淘宝粗排问题之对粗排阶段打分集合归因到对应的场景内和场景外成交如何解决
深度粗排模型的GMV优化实践:基于全空间-子空间联合建模的蒸馏校准模型
随着业务的不断发展,粗排模型在整个系统链路中变得越来越重要,能够显著提升线上效果。本文是对粗排模型优化的阶段性总结。
1678 0
深度粗排模型的GMV优化实践:基于全空间-子空间联合建模的蒸馏校准模型
GNN在轻应用内容推荐中的召回实践
本系列文章包含每平每屋过去一年在召回、排序和冷启动等模块中的一些探索和实践经验,本文为该专题的第二篇。
720 0
基于多任务学习和负反馈的深度召回模型
召回结果的好坏对整个推荐结果有着至关重要的影响,最近的一系列实践和研究表明,基于行为序列的深度学习推荐模型搭配高性能的近似检索算法可以实现既准又快的召回性能;与此同时,用户在天猫精灵上还可以进行实时指令操控(歌名点播:“播放七里香”、风格流派推荐点播:“来点摇滚”、主动切歌:“下一首”等),如何利用这些丰富的反馈信息改进召回模型的性能,他们是怎么做的呢?
1903 0
基于多任务学习和负反馈的深度召回模型
连续迁移学习跨域推荐排序模型在淘宝推荐系统的应用
本文探讨了如何在工业界的连续学习的框架下实现跨域推荐模型,提出了连续迁移学习这一新的跨域推荐范式,利用连续预训练的源域模型的中间层表征结果作为目标域模型的额外知识,设计了一个轻量级的Adapter模块实现跨域知识的迁移,并在有好货推荐排序上取得了显著业务效果。
911 0
连续迁移学习跨域推荐排序模型在淘宝推荐系统的应用

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等