开发者社区> 问答> 正文

什么是基于多模态信息融合的图预训练框架PMGT?

什么是基于多模态信息融合的图预训练框架PMGT?

展开
收起
游客zvexcvxjsyxmm 2022-03-29 09:51:44 540 0
来自:大淘宝技术
1 条回答
写回答
取消 提交回答
  • PMGT首先根据item的相关信息,构建出一个item多模态图,其中图的节点为item,边反应了item之间的关系(如被相同用户交互过的item建立边),每个节点的特征由item的多模态特征构成。对图中的每个节点,我们设计出高效并行的采样方法MCNSampling,从图中采样出若干与其相关的节点组成节点序列,并使用基于多样性的transformer框架聚合节点特征,缓解模态融合的冗余性。最后使用基于图结构重建的任务和基于节点特征重建的任务指导相关节点融合和节点自身的多模态信息融合。将PMGT在Amazon和MovieLens公开数据集上预训练并测试,和最新的图预训练模型相比,达到SOTA性能。PMGT使用图的方式指导item的多模态信息的融合,并有效捕捉item之间的相关性,让预训练并不局限于item自身,增强了预训练的item特征的表达能力,可适用于多种下游任务和领域。

    答复内容摘自《2021技术人的百宝黑皮书》,这本电子书收录开发者藏经阁 下载连接:https://developer.aliyun.com/ebook/download/7436

    2022-03-29 17:01:16
    赞同 展开评论 打赏
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
典型模型-卷积神经网络入门 立即下载
通用多模态AI构建 立即下载
基于视觉推理的视频理解 立即下载