Paddle图神经网络-学习笔记(一)

简介: Paddle图神经网络-学习笔记(一)

02图游走类模型


DeepWalk

目标:Node embeddings 学习到节点与邻居的关系。得到节点表示,用于下游任务


Word2Vec 应用到 图嵌入领域



节点——>单词


节点序列——>句子


游走方式:Random Walk

本质:可以回头的DFS



整体架构:



问题:图是一个复杂的结构,需要考虑更多因素。


Node2Vec

对DeepWalk的改进结合BFS与DFS模式。



改进:bias random walk



p:控制随机游走以多大的概率back

q:控制随机游走偏向DFS还是BFS


metapath2vec及其变种

异构图如何随机游走?


不考虑节点类型的异构随机游走,缺点:


1.偏向于出现频率高的节点类型;

2.偏向于相对集中的节点(即度数高的节点)

回顾异构图定义:



meta path(元路径):在图中选取的由节点类型构成的组合路径


基于meta path的随机游走




随机游走的时候考虑到节点类型


问题:负采样的时候,没有考虑节点类型


metapath++:负采样的时候,考虑节点类型


变种:multi-metapath2Vec++


利用多条元路径



side info + multi-metapath2vec++



03图神经网络算法(上)


图卷积网络(GCN)

卷积在规则数据上很好应用,如果是不规则的图呢?



从图像卷积类比到图结构卷积

图像卷积

将一个像素点周围的像素按照不同的权重叠加起来。


图结构卷积

将一个节点周围的邻居按照不同的权重叠加起来。



图卷积网络计算公式:

H ( l + 1 ) = σ ( D ~ − 1 2 A ~ D ~ − 1 2 H ( l ) W ( l ) )



这个公式可以一步步来看



1.边上的源节点,往目标节点发送特征


2.目标节点对收到的特征进行聚合


问题:是否所有的人对自己的评价都是有用的?



所以:如何衡量邻居的重要性?


度:给边加权



怎么用多层图网络完成节点分类任务


GCN算法全流程:


第一步:节点间进行特征传递


第二步:对每一个节点过一层DNN


重复L次,实现多层图卷积网络


获取的最终表示H ( L )作为最终节点表示,来分类



图注意力网络(GAT)

GCN中边的权重:


与节点的度相关

不可学习

GAT中的边权重


权重变成节点间的函数

权重与两个节点相关性有关

可学习


attention计算方法

image.png

特征聚合计算方法

image.png

Message Passing

GCN、GAT都是基于邻居聚合的模型


称为Spatial(空间)GNN


大部分的Spatial GNN都可以用Message Passing实现


消息的发送

消息的接收


目录
相关文章
|
1月前
|
Ubuntu 网络安全 图形学
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
在Ubuntu 20.04系统中解决网络图标消失和无法连接有线网络问题的方法,其中第三种方法通过检查并确保Windows防火墙中相关服务开启后成功恢复了网络连接。
459 0
Ubuntu学习笔记(二):ubuntu20.04解决右上角网络图标激活失败或者消失,无法连接有线问题。
|
1月前
|
机器学习/深度学习 数据可视化 Linux
Seaborn可视化学习笔记(一):可视化神经网络权重分布情况
这篇文章是关于如何使用Seaborn库来可视化神经网络权重分布的教程,包括函数信息、测试代码和实际应用示例。
41 0
|
3月前
|
机器学习/深度学习 自然语言处理 并行计算
【深度学习+面经】Transformer 网络学习笔记
Transformer模型的核心概念、优缺点以及在多个领域的应用,并提供了针对Transformer架构的面试问题及答案。
161 2
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
Transformer 能代替图神经网络吗?
Transformer模型的革新性在于其自注意力机制,广泛应用于多种任务,包括非原始设计领域。近期研究专注于Transformer的推理能力,特别是在图神经网络(GNN)上下文中。
98 5
|
4月前
|
机器学习/深度学习 搜索推荐 知识图谱
图神经网络加持,突破传统推荐系统局限!北大港大联合提出SelfGNN:有效降低信息过载与数据噪声影响
【7月更文挑战第22天】北大港大联手打造SelfGNN,一种结合图神经网络与自监督学习的推荐系统,专攻信息过载及数据噪声难题。SelfGNN通过短期图捕获实时用户兴趣,利用自增强学习提升模型鲁棒性,实现多时间尺度动态行为建模,大幅优化推荐准确度与时效性。经四大真实数据集测试,SelfGNN在准确性和抗噪能力上超越现有模型。尽管如此,高计算复杂度及对图构建质量的依赖仍是待克服挑战。[详细论文](https://arxiv.org/abs/2405.20878)。
80 5
|
4月前
|
机器学习/深度学习 PyTorch 算法框架/工具
图神经网络是一类用于处理图结构数据的神经网络。与传统的深度学习模型(如卷积神经网络CNN和循环神经网络RNN)不同,
图神经网络是一类用于处理图结构数据的神经网络。与传统的深度学习模型(如卷积神经网络CNN和循环神经网络RNN)不同,
|
4月前
|
机器学习/深度学习 编解码 数据可视化
图神经网络版本的Kolmogorov Arnold(KAN)代码实现和效果对比
目前我们看到有很多使用KAN替代MLP的实验,但是目前来说对于图神经网络来说还没有类似的实验,今天我们就来使用KAN创建一个图神经网络Graph Kolmogorov Arnold(GKAN),来测试下KAN是否可以在图神经网络方面有所作为。
189 0
|
5月前
|
机器学习/深度学习 数据采集 TensorFlow
使用Python实现深度学习模型:图神经网络(GNN)
使用Python实现深度学习模型:图神经网络(GNN)
266 1
|
5月前
|
机器学习/深度学习 搜索推荐 PyTorch
【机器学习】图神经网络:深度解析图神经网络的基本构成和原理以及关键技术
【机器学习】图神经网络:深度解析图神经网络的基本构成和原理以及关键技术
1147 2
|
5月前
|
机器学习/深度学习 PyTorch 算法框架/工具
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】

热门文章

最新文章