带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(4) https://developer.aliyun.com/article/1246841?groupCode=taobaotech
上下文感知的评估模型
上下文感知的评估模型的整体结构示意图如上,每个模块的功能如下:
Input
模型的输入包括用户侧特征图片和一个长度为n的候选列表,列表内第i个位置对应的内容特征为 。内容侧特征由内容的属性特征,历史曝光点击特征以及上游的精排模型效率分等构成。
Context-Aware Encoder
对于序列内第i个位置的内容 ,使用context-aware encoder获得其在列表内前后内容相互影响下的表示向量 ,context-aware encoder 可以是任意具有上下文感知能力的结构,如LSTM,Self Attention等。
Shared Task Net
Shared Task Net以用户侧特征 ,内容特征 以及内容经过context-aware encoder得到表示向量 作为输入,根据具体的任务目标可以使用不同的模型结构,我们对线上精排模型使用的MMoE结构进行了简化作为Shared Task Net,不同位置的内容共享相同的网络参数。
Output
模型最终会输出列表内每个内容的效率分 和 。训练阶段以线上真实的曝光点击数据作为label采用交叉熵损失函数进行参数优化。
序列整体价值评估
序列的整体价值表示为:
最终选取SequenceValue最高的列表展现给用户。
带你读《2022技术人的百宝黑皮书》——生成式重排在内容推荐中的应用实践(6) https://developer.aliyun.com/article/1246839?groupCode=taobaotech