业界盘点|为什么推荐算法都开始结合图神经网络了?(二)

简介: 业界盘点|为什么推荐算法都开始结合图神经网络了?(二)

3. 阿里EGES


论文标题:Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba


论文来源:KDD2018,Alibaba


论文目标:将图表示学习应用到推荐中,初步解决scalability, sparsity and cold start等问题


图数据的构建方法:session-based users’ behaviors中相邻的item连接一条有向边


模型架构:


fb47e0b61262a90bd13844643f94d269.png


模型特点:


**base model 😗*先随机游走,再使用negative sampling优化的Skip-gram模型来学习表示。


**enhance model:**利用side information,给每种不同类型的side information的表示以不同的权重,其中SI 0代表item id。


ec6d1bc0a5f3748481bd332c1290e21f.png



e09462121eb94bda4b4b9ee627b143c6.png


注:数据清洗


1.删除点击后停留时间少于1s的点击(无意图点击)


2.删除过于活跃的用户(buy>1000 item, click >3500 item in 3 months)


4. 阿里GATNE


论文标题:Representation Learning for Attributed Multiplex Heterogeneous Network


论文来源:KDD2019 Alibaba&Tsinghua


论文目标:学习异构网络的结点和边表示


图数据的构建方法:user-item交互信息(点击,加入购物车等)


模型架构:


7dd23ee7e5d6fe8828385df144f186a7.png


模型特点:


为异构网络中的每个结点学习一个基本表示(base embedding),在结点的每种边类型下都学一个表示(edge embedding),将两类表示合并作为最后的表示。


总结:


有Inductive和transductive两种setting:


Inductive learning中将结点的属性作为学习结点和边表示的初始化输入。


5. 阿里M2GRL


论文标题:M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems


论文来源:KDD2020 Alibaba


论文目标:同时学习multi-view的表示,并对齐


图数据的构建方法:从用户的历史行为序列中构造出item graph(连续的item之间连边);category graph, shop graph


模型架构:


97c70f730f6fd9f795906734c0ff3ad1.png


模型特点:


多task多view的图表示学习框架,分为两类任务:


1.view内的任务,关注与view内的同构图的表示学习,使用Negative sampling优化的Skip-gram模型来学习


2.view间的任务,专注于学习不同view的结点的关系,采取对齐技术来将不同view的结点的映射到同一空间,并学习结点之间的关系


利用同调不确定性来学习不同任务的权重


备注:


数据清洗


1.删除点击后停留时间少于2s的user-item pair(用户可能不感兴趣)


2.打开到关闭app的tm来分割和合并session。若有1小时的空闲时间,将一个session分成两个;如果时间跨度少于30分钟,合并两个连续的session。


6. 阿里DHGAT


论文标题:A Dual Heterogeneous Graph Attention Network to Improve Long-Tail Performance for Shop Search in E-Commerce


论文来源:KDD2020 Alibaba


论文目标:在shop search上提高长尾query和shop的效果


图数据的构建方法:从用户的搜索、点击和下单行为历史构造。


结点类型:Shop(S)、Query(Q)、Item(I)


边类型:


1.同构边:Q-Q,同一个session中的query连边,导致相同点击shop的query连边;S-S,在同个query下的shop连边


2.异构边:Q-S(历史数据中直接获得,从item-query下下单的),Q-I,S-I


模型架构:


42883020fa115c11cc0f25568902d57c.png


模型特点:


使用GNN来丰富shop和query的表示含义,定义了各自的异构邻居。


1.双层attention,1.同种异构边,2.不同种异构边


2.双塔+异构attention


3.从product search中transfer knowledge


4.user feature作为query特征一部分


7 .滴滴Gemini


论文标题:Gemini: A Novel and Universal Heterogeneous Graph Information Fusing Framework for Online Recommendations


论文来源:KDD2020 DiDi


论文目标:将User-item交互的异构图转化为两个semi-Homogeneous图


图的构建方法:任意二分图


模型架构:


e451f1a765ebd1ed6a5ca58b6853d5df.png


169de1e624b6eaed856701f03df049b4 (1).png


模型特点:


1.将一个异构图转化为两个半同构图,其中同构图上的边的属性为node list(原来的共同1跳邻居结点)


2.边上的点越多,包含的信息越多;但在所有边上出现次数越多,越不重要。单个边上点出现的次数(tf),所有边上点出现的次数(idf) ,使用TF-IDF pooling (分桶表示)


b31bc5f53b6dc334a0582ceb32249e29.png


3.使用attention机制来组合结点和边表示


c1ba61821286ad8adb04fabb618de6ce.png


4.使用edge conv来获得该层的结点表示


c0f9e10ec98d5773252207466120a87a.png


5.预测


f97952ab5760188065fcb401be150ab3.png


备注:


复杂度较高,构造了u-u图,比原始的u-i图更大


相关文章
|
2月前
|
机器学习/深度学习 人工智能 算法
深度学习入门:理解神经网络与反向传播算法
【9月更文挑战第20天】本文将深入浅出地介绍深度学习中的基石—神经网络,以及背后的魔法—反向传播算法。我们将通过直观的例子和简单的数学公式,带你领略这一技术的魅力。无论你是编程新手,还是有一定基础的开发者,这篇文章都将为你打开深度学习的大门,让你对神经网络的工作原理有一个清晰的认识。
|
5天前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【垃圾识别系统】实现~TensorFlow+人工智能+算法网络
垃圾识别分类系统。本系统采用Python作为主要编程语言,通过收集了5种常见的垃圾数据集('塑料', '玻璃', '纸张', '纸板', '金属'),然后基于TensorFlow搭建卷积神经网络算法模型,通过对图像数据集进行多轮迭代训练,最后得到一个识别精度较高的模型文件。然后使用Django搭建Web网页端可视化操作界面,实现用户在网页端上传一张垃圾图片识别其名称。
26 0
基于Python深度学习的【垃圾识别系统】实现~TensorFlow+人工智能+算法网络
|
22天前
|
机器学习/深度学习 人工智能 算法
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
车辆车型识别,使用Python作为主要编程语言,通过收集多种车辆车型图像数据集,然后基于TensorFlow搭建卷积网络算法模型,并对数据集进行训练,最后得到一个识别精度较高的模型文件。再基于Django搭建web网页端操作界面,实现用户上传一张车辆图片识别其类型。
65 0
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
|
23天前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于贝叶斯优化CNN-LSTM网络的数据分类识别算法matlab仿真
本项目展示了基于贝叶斯优化(BO)的CNN-LSTM网络在数据分类中的应用。通过MATLAB 2022a实现,优化前后效果对比明显。核心代码附带中文注释和操作视频,涵盖BO、CNN、LSTM理论,特别是BO优化CNN-LSTM网络的batchsize和学习率,显著提升模型性能。
|
1月前
|
机器学习/深度学习 算法 数据挖掘
基于GWO灰狼优化的GroupCNN分组卷积网络时间序列预测算法matlab仿真
本项目展示了基于分组卷积神经网络(GroupCNN)和灰狼优化(GWO)的时间序列回归预测算法。算法运行效果良好,无水印展示。使用Matlab2022a开发,提供完整代码及详细中文注释。GroupCNN通过分组卷积减少计算成本,GWO则优化超参数,提高预测性能。项目包含操作步骤视频,方便用户快速上手。
|
1月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于WOA鲸鱼优化的GroupCNN分组卷积网络时间序列预测算法matlab仿真
本项目展示了一种基于WOA优化的GroupCNN分组卷积网络时间序列预测算法。使用Matlab2022a开发,提供无水印运行效果预览及核心代码(含中文注释)。算法通过WOA优化网络结构与超参数,结合分组卷积技术,有效提升预测精度与效率。分组卷积减少了计算成本,而WOA则模拟鲸鱼捕食行为进行优化,适用于多种连续优化问题。
|
1月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于GA遗传优化的GroupCNN分组卷积网络时间序列预测算法matlab仿真
该算法结合了遗传算法(GA)与分组卷积神经网络(GroupCNN),利用GA优化GroupCNN的网络结构和超参数,提升时间序列预测精度与效率。遗传算法通过模拟自然选择过程中的选择、交叉和变异操作寻找最优解;分组卷积则有效减少了计算成本和参数数量。本项目使用MATLAB2022A实现,并提供完整代码及视频教程。注意:展示图含水印,完整程序运行无水印。
|
1月前
|
机器学习/深度学习 人工智能 算法
【玉米病害识别】Python+卷积神经网络算法+人工智能+深度学习+计算机课设项目+TensorFlow+模型训练
玉米病害识别系统,本系统使用Python作为主要开发语言,通过收集了8种常见的玉米叶部病害图片数据集('矮花叶病', '健康', '灰斑病一般', '灰斑病严重', '锈病一般', '锈病严重', '叶斑病一般', '叶斑病严重'),然后基于TensorFlow搭建卷积神经网络算法模型,通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型文件。再使用Django搭建Web网页操作平台,实现用户上传一张玉米病害图片识别其名称。
55 0
【玉米病害识别】Python+卷积神经网络算法+人工智能+深度学习+计算机课设项目+TensorFlow+模型训练
|
1月前
|
机器学习/深度学习 算法 5G
基于BP神经网络的CoSaMP信道估计算法matlab性能仿真,对比LS,OMP,MOMP,CoSaMP
本文介绍了基于Matlab 2022a的几种信道估计算法仿真,包括LS、OMP、NOMP、CoSaMP及改进的BP神经网络CoSaMP算法。各算法针对毫米波MIMO信道进行了性能评估,通过对比不同信噪比下的均方误差(MSE),展示了各自的优势与局限性。其中,BP神经网络改进的CoSaMP算法在低信噪比条件下表现尤为突出,能够有效提高信道估计精度。
38 2
|
2月前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言,首先收集了10种中文文本数据集("体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"),然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型,并保存为本地的h5格式。然后使用Django开发Web网页端操作界面,实现用户上传一段文本识别其所属的类别。
90 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台

热门文章

最新文章