带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(1)

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(1)

作者:阅谦

出品:大淘宝技术


本系列文章包含每平每屋过去一年在召回、排序和冷启动等模块中的一些探索和实践经验,本文为该专题的第四篇。


第一篇指路:冷启动系统优化与内容潜力预估实践

第二篇指路:GNN在轻应用内容推荐中的召回实践

第三篇指路:基于特征全埋点的精排ODL实践总结

第四篇指路:Gradient Normalization在多任务学习中的优化实践


问题背景


每平每屋频道是每平每屋业务在淘宝建立用户家居、生活方式心智场的主要阵地。在频道中,内容主要以场景搭配为主,内容内挂载了多个商品锚点,点击商品锚点可以跳转到商品的详情页。


image.png


频道中的内容具有多样的空间和风格属性,空间包含客厅,餐厅,卧室,书房等,风格属性包含日式,北欧,欧式,中式等。这些多样化的内容承载着不同用户在不同时刻买和逛的需求。


多样性和相关性的平衡是推荐系统中长期存在的问题之一。以点击率/转化率等效率目标进行优化的算法虽然能够做到用户-内容的精准匹配,但其point-wise最优的排序策略容易导致相似的内容聚集扎堆出现。对用户而言看到的内容越来越单一和同质化,信息茧房不断加重,探索型用户诉求也无法得到有效满足,最终导致用户疲劳甚至流失。对内容而言,系统流量逐渐被头部高热内容占据,长尾内容无法得到有效曝光,创作者的积极性也会受到打击,长期来看不利于整个系统的生态建设。


推荐结果的多样性的依赖于系统中各模块的协同,在淘宝每平每屋频道推荐系统中,我们在召回模块使用了MIND多兴趣向量召回[1]和基于淘宝商品行为的跨域向量召回[2]以及召回类目数量控制等方法提升了召回结果的多样性,在排序模块中我们引入了用户超长周期的历史行为[3]以及窗口打散,MMR[4]和DPP[5]等重排方法显著提升了推荐结果多样性和浏览深度,Visual EE[6] 和Impression Discounting[7] 等方法则在系统链路和机制策略的层面提升了系统的多样性。


本文将介绍每平每屋频道在推荐链路末端的重排序环节使用生成式重排技术进行优化的方案和实验分析。前期我们使用基于DPP的多样性重排方法在浏览深度,人均点击量和曝光内容的多样性等指标上均获得了一定的收益,但我们认为这类方法在对最终展现给用户的内容间的相互影响和列表整体的收益进行建模上仍存在不足,体现在:


内容与用户兴趣相关性的度量依赖point-wise的rank score,没有考虑到内容之间的相互作用


MMR/DPP等基于贪婪策略选择的方法难以获得获得全局最优解,如第一坑位选择rank分数最高的内容并不一定能保证整个列表的收益最大化


相关性与多样性的平衡依赖超参数的控制,难以满足不同用户对多样性的诉求,以点击不同空间内容的信息熵来评估用户兴趣的发散程度,可以看到下图呈现出多峰分布的状态,说明用户对多样性的诉求程度是不同的


image.png


带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2) https://developer.aliyun.com/article/1246844?groupCode=taobaotech

相关文章
|
自然语言处理 Java Apache
|
缓存 自然语言处理 JavaScript
万字长文深度解析JDK序列化原理及Fury高度兼容的极致性能实现
Fury是一个基于JIT动态编译的高性能多语言原生序列化框架,支持Java/Python/Golang/C++/JavaScript等语言,提供全自动的对象多语言/跨语言序列化能力,以及相比于别的框架最高20~200倍的性能。
169416 12
|
机器学习/深度学习 算法 搜索推荐
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
415 0
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
|
机器学习/深度学习 算法
阿里首次将用户手势数据用于电商场景!淘宝提出的算法DIPN秒杀传统模型
用户消费行为预测已然是电商领域的经典问题。通过对用户实时意图的理解,我们可以感知用户当下正处于哪个阶段,比如是在买还是在逛,从而可以根据不同阶段制定不同的营销和推荐策略,进而提升营销和推荐效果。
4362 0
|
自然语言处理 Java 测试技术
序列化性能之巅:使用Fury替换Protobuf/Flatbuffers实现10倍加速
问题背景Protobuf/Flatbuffers是业界广泛使用的序列化库,服务于大量的业务场景。但随着业务场景的复杂化,Protobuf/Flatbuffers逐渐不能满足性能需求开始成为系统瓶颈,在这种情况下,用户不得不手写大量序列化逻辑来进行极致性能优化,但这带来了三个问题:大量字段手写序列化逻辑冗长易出错;手写重复序列化逻辑开发效率低下;难以处理发送端和接收端字段变更的前后兼容性问题;这里将
3000 0
|
数据采集 存储 机器学习/深度学习
蚂蚁端智能:超实时端特征中心的建设与实践
蚂蚁端智能:超实时端特征中心的建设与实践
2142 0
|
机器学习/深度学习 人工智能 算法
Generator-Evaluator重排模型在淘宝流式场景的实践
Generator-Evaluator重排模型在淘宝流式场景的实践
2698 0
|
JSON Java 数据格式
json进阶---jackson底层之JsonParser理解使用
json进阶---jackson底层之JsonParser理解使用(springboot多结构参数的映射方法的实现思路)
1214 0
json进阶---jackson底层之JsonParser理解使用
|
机器学习/深度学习 存储 算法
脱胎换骨的生成模式:强化学习重排
AliExpress 搜索重排项目在 6 月份时全量发布了第一个 fined tuned 的 DNN 版重排模型,本次的工作作为上一版本的升级,在日常、大促时的表现均有显著优势。本文将深入浅出强化学习框架重排实践,并引出几个潜在的提升空间。 作者:辰火、讷朴、达卿
3639 0
脱胎换骨的生成模式:强化学习重排
|
算法 搜索推荐 新零售
大促背后的流量利器|手淘push升级 比你更懂你
手淘 App 的 Push 消息大部分时候是作为一个活动通知的通道,对重要活动进行通投引流。那么,经过升级改造后的整体效果如何?在这次的 618 大促中又发挥了什么样的作用?我们在背后有那些发现和思考?本文会逐一介绍。
7040 0
大促背后的流量利器|手淘push升级 比你更懂你