带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(3)

在线体验各类最新模型,更有模型 免费Token 额度领取!
立即体验
简介: 带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(3)

带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2) https://developer.aliyun.com/article/1246844?groupCode=taobaotech



DPP


基于DPP的多样性算法通过计算核矩阵 image.png的行列式找到候选内容集合中相关性和多样性最大的子集。相比于MMR每次只考虑当前内容与前序已选内容中最相似的内容的相似度,DPP会综合考虑所有已选内容的相互影响。


image.png


image.png 为候选内容集合,image.png 为已选中内容集合,image.png 为内容i的相关性分,image.png 为内容i和内容j的相似度分, image.png 为平衡相关性与多样性的因子, image.png越大生成的列表多样性越高。我们使用多组不同超参数image.png 生成了具有不同多样性程度的候选列表。


基于DPP的多样性重排打散是我们在线上全量部署的方法,通过复用线上已有的重排打散方法可以确保在序列评估模型不差的情况下取得和线上base相近的效果。


beam search


MMR和DPP均为greedy search策略,每一步选当前状态下目标效用函数最大的内容加入候选列表中,直到候选列表长度满足要求。贪心策略的每一步都采取的是局部最优策略,并不能保证产生是全局最优解。例如第一坑位选择效率分最高的内容并不一定能保证整个列表的收益最大化。


exhaustive search策略相比greedy search能够确保产生全局最优的策略,假设从m个候选内容中挑选n个组成最终的候选列表,那么一共有 image.png种组合方式。假设从50个内容选择10个内容返回,那么则约有 image.png种组合,庞大的计算量对于线上的推荐系统来说是不可接受的。


beam search则是exhaustive search和greedy search之间的一种折中解法,能够以较低的计算代价产生接近全局最优的策略。设定超参数k为beam size,那么在序列生成的每一步我们都会有k个序列,在已选中的k个序列的基础上再加入新的内容,得到m个候选序列,根据序列价值从高到底选择这m个序列中的k个作为下一步的已选中序列,不断迭代直到列表中所有位置都被填充完毕,此时序列价值最高的k个将作为最终的结果。




带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(4) https://developer.aliyun.com/article/1246841?groupCode=taobaotech

相关文章
|
算法 搜索推荐 安全
淘宝信息流融合混排服务升级
淘宝信息流融合混排服务升级
1561 1
|
消息中间件 存储 运维
Zabbix与ELK整合实现对安全日志数据的实时监控告警
Zabbix与ELK整合实现对安全日志数据的实时监控告警
Zabbix与ELK整合实现对安全日志数据的实时监控告警
|
存储 缓存 自然语言处理
SCOPE:面向大语言模型长序列生成的双阶段KV缓存优化框架
KV缓存是大语言模型(LLM)处理长文本的关键性能瓶颈,现有研究多聚焦于预填充阶段优化,忽视了解码阶段的重要性。本文提出SCOPE框架,通过分离预填充与解码阶段的KV缓存策略,实现高效管理。SCOPE保留预填充阶段的关键信息,并在解码阶段引入滑动窗口等策略,确保重要特征的有效选取。实验表明,SCOPE仅用35%原始内存即可达到接近完整缓存的性能水平,显著提升了长文本生成任务的效率和准确性。
927 3
SCOPE:面向大语言模型长序列生成的双阶段KV缓存优化框架
|
机器学习/深度学习 算法 搜索推荐
基于动态背包的多场景广告序列投放算法
电商广告是广告主接触其目标用户的重要手段。普遍的广告目标是在预算约束下,在一定时间范围内最大化广告主累计收入。实际应用中,广告的转化通常需要对同一用户进行多次曝光,直到该用户最终购买为止。但是,现有的广告系统主要关注单次广告曝光的直接收益,而忽略了每次曝光对最终转化的贡献,因此通常属于次优解决方案。在本文中,我们将广告序列投放策略优化转化为一个动态背包问题。为求解此背包问题,我们提出了一个具有理论保证的双层优化框架,该框架在不影响求解精度同时,显着减少了原始优化问题的求解空间。在下层框架的优化中,我们引入强化学习并设计了一种有效的动作空间约减方法,提高了强化学习在实际广告应用中的探索效率。
2317 1
基于动态背包的多场景广告序列投放算法
|
应用服务中间件 网络安全 nginx
docker 搭建 最新版本的 gitlab,使用HTTPS访问,以及gitlab的基础使用讲解
docker 搭建 最新版本的 gitlab,使用HTTPS访问,以及gitlab的基础使用讲解
|
存储 图形学
【制作100个unity游戏之27】使用unity复刻经典游戏《植物大战僵尸》,制作属于自己的植物大战僵尸随机版和杂交版11(附带项目源码)
【制作100个unity游戏之27】使用unity复刻经典游戏《植物大战僵尸》,制作属于自己的植物大战僵尸随机版和杂交版11(附带项目源码)
680 0
|
机器学习/深度学习 人工智能 智能设计
生成式重排在内容推荐中的应用实践
生成式重排在内容推荐中的应用实践
2662 0
生成式重排在内容推荐中的应用实践
|
文字识别 异构计算 Python
【Python案例】OCR提取图片中的文字
【Python案例】OCR提取图片中的文字
1197 1
【Python案例】OCR提取图片中的文字
|
机器学习/深度学习 算法 搜索推荐
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
415 0
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(2)
|
机器学习/深度学习 人工智能 算法
Generator-Evaluator重排模型在淘宝流式场景的实践
Generator-Evaluator重排模型在淘宝流式场景的实践
2698 0