【Pytorch神经网络理论篇】 27 图神经网络DGL库:简介+安装+卸载+数据集+PYG库+NetWorkx库

简介: DGL库是由纽约大学和亚马逊联手推出的图神经网络框架,支持对异构图的处理,开源相关异构图神经网络的代码,在GCMC、RGCN等业内知名的模型实现上也取得了很好的效果。

同学你好!本文章于2021年末编写,获得广泛的好评!


故在2022年末对本系列进行填充与更新,欢迎大家订阅最新的专栏,获取基于Pytorch1.10版本的理论代码(2023版)实现,


Pytorch深度学习·理论篇(2023版)目录地址为:


CSDN独家 | 全网首发 | Pytorch深度学习·理论篇(2023版)目录


本专栏将通过系统的深度学习实例,从可解释性的角度对深度学习的原理进行讲解与分析,通过将深度学习知识与Pytorch的高效结合,帮助各位新入门的读者理解深度学习各个模板之间的关系,这些均是在Pytorch上实现的,可以有效的结合当前各位研究生的研究方向,设计人工智能的各个领域,是经过一年时间打磨的精品专栏!

https://v9999.blog.csdn.net/article/details/127587345


欢迎大家订阅(2023版)理论篇

以下为2021版原文~~~~



815902569f6a467a99304f9ac1482386.png


DGL库是由纽约大学和亚马逊联手推出的图神经网络框架,支持对异构图的处理,开源相关异构图神经网络的代码,在GCMC、RGCN等业内知名的模型实现上也取得了很好的效果。


77ef858fe4774802b7aa14acb6d3a80a.png


1 DGL库


1.1 DGL库的实现与性能


实现GNN并不容易,因为它需要在不规则数据上实现较高的GPU吞吐量。


1.1.1 DGL库简介


DGL库的逻辑层使用了顶点域的处理方式,使代码更容易理解。同时,又在底层的内存和运行效率方面做了大量的工作,使得框架可以发挥出更好的性能。


1.1.2 DGL库特点


GCMC:DGL的内存优化支持在一个GPU上对MovieLens10M数据集进行训练(原实现需要从CPU中动态加载数据),从而将原本需要24小时的训练时间缩短到1个多小时。


RGCN:使用全新的异构图接口重新实现了RGCN。减少了内存开销。


HAN:提供的灵活接口可以将一个异构图通过元路径转变成同构图。


Metapath2vec:新的元路径采样实现比原实现快2倍。


1.1.3 分子化学的模型库DGL-Chem


该分子库提供包括分子性质预测和分子结构生成等预训练模型,以及训练知识图谱嵌入专用包DGL-KE。其中DGL-KE的性能更是出色。


在单GPU上,DGL-KE能在7分钟内使用经典的TransE模型训练出FB15K的图嵌入。而GraphVite(v0.1.0)在4个GPU上运算需要14分钟。


DGL-KE的首个版本发布了TransE、CompEx和Distmut模型,支持CPU训练、GPU训练、CPU和GPU混合训练,以及单机多进程训练。


1.2 安装DGL库


1.2.1 查看本地CUDA版本


CMD中输入


nvcc --version


1.2.2 查看版本


CUDA对应的DGL版本查询(64位)

https://conda.anaconda.org/dglteam/linux-64


1.2.3 安装版本


conda install -c dglteam dgl-cuda11.3


8fdb88e448ab498c969c5caa10a6e7c2.png


1.2.4  卸载DGL


若已经安装了不需要的DGL版本,比如0.7.1想替换为0.4.3版本,则要删除现有版本:


默认删除当前DGL:conda uninstall -c dglteam dgl-cuda10.2


(cuda10.2可根据自己的环境调整)


指定删除版本:conda uninstall -c dglteam dgl-cuda10.2==0.5.0

(cuda10.2==0.5.0可根据自己的环境调整,使用 conda list 可以查看使用的当前版本)


1.3 DGL库中的数据集


1.3.1  Sst(Stanford sentiment treebank,斯坦福情感树库)


每个样本都是—个树结构的句子,叶顶点表示单词;每个顶点还具有情感注释,共分为5类(非常消极、消极、中立、积极、非常积极)


1.3.2 KarateCub


数据集中只有一个图,图中的顶点描述社交网络中的用户是否是一家空手道俱乐部中的成员。


1.3.3 CationGraph


顶点表示作者,边表示引用关系。


1.3.4 CORA


顶点表示作者,边表示引用关系。


1.3.5 CORAFUll


CORA数据集的扩展,顶点表示论文,边表示论文间的引用关系。


1.3.6 AmazonCoBuy


顶点表示商品,边表示经常一起购买的两种商,。顶点特征表示产品的评论,顶点的类别标签表示产品的类别。


3.7 Coauthor


顶点表示作者,边表示共同撰写过论文的关系。顶点特征表示作者论文中的关键词,顶点类别标签表示作者的研究领域。


3.8 MiniGCDalaset(即mini graph classification dataset,小型图分类数据集)


包含8种不同类型的图形,包括循环图、星形图、车轮图、棒棒糖图、超立方体图、网格图、集团图和圆形梯形图。


3.9 TUDataset


图形分类中的图形内核数据集。


3.10 GINDataset(即graphLsomorphism network dataset,图同构网络数据集)


图内核数据集的紧凑子集。数据集包含流行的图形内核数据集的紧凑格式,包括4个生物信息学数据集(MUTAG、NCH、PROTEINS、PTC)和5个社交网络数据集(COLAB、IMDBBNARY、MDBMULT、REDDITBINARY,REDDITMULT5K)。


3.11 PPIDataset(即protein-protein interaction dataset,蛋白质-蛋白质相互作用数据集)


数据集包含24个图,每个图的平均顶点数为2372,每个顶点具有50个要素和121个标签。


3.12 QM7b


由7211个分子组成,所有的分子可以回归到14个分类目标。顶点表示原子,边表示键。


1.4 DGL库中数据集的加载


在使用时,可以通过dg.data库中的数据集类直接进行实例化。


实例化的参数要根据每个数据集类的构造函数的定义进行配置。


代码如下:


# 该代码的作用是创建并加载一个同构图数据集。该代码运行后,会自动从网络上下载指定的数据集
# 并解压缩,然后载入到内存,并返回数据集对象dataset。该数据集类与PyTorch的Dataset类兼容。
dataset=GINDataset('MUTAG',self-loop=True) #数据集为MUTAG,使用自环图


1.4.1 数据集加载的Tip


dgldata库中的数据集类规划得并不是太好,有的类直接裸露在数据下面,有的类则被额外封装了一层。


例如,CoraDataset类就被封装在citation_graph.py文件中,载入时需要编写如下代码:


from dgl.data import citation-graph
data = citation_graph.corapataset()
该代码在执行时会读取指定的数据集,并生成邻接矩阵,然后调用NetWorkx模块根据该邻接矩阵生成图以及训练数据集、测试数据集。


因此,在使用DGL的数据集时,还需要在dgl/data路径下单独查找,以库中实际的代码为准。


1.5 DGL库中的图(DGLGraph)


DGLGraph类封装一个特有的图结构,可以理解为DGL库的核心,DGL库中的大部分图神经网络是基于DGLGraph类实现的。


1.6 DGL库中的内联函数


DGL库提供了大量的内联(buit-in)函数,这些函数主要用于对边和顶点进行运算处理,它们的效率要比普通的图处理函数高很多。


DGL库中的内联函数都放在dgl.function模块下。在使用时,要配合DGLGraph图的消息传播机制进行运算。


消息传播机制属于DGL库的底层功能,常会在构建图神经网络模型中使用。


如果只使用DGL库中封装好的图神经网络模型,那么无须深入了解。


2 PYG库


PyG库是基于PyTorch构建的几何深度学习扩展库,可以利用专门的CUDA内核实现高性能。


在简单的消息传递APl之后,它将大多数近期提出的卷积层和池化层捆绑成一个统一的框架,支持CPU和GPU计算,并遵循不变的数据流范式,这种范式可以随着时间的推移动态改变图结构。


3 NetWorkx库


NetWorkk是一个用Python语言开发的图论与复杂网络建模工具,内置了常用的图与复杂网络分析算法,可以方便地执行分析复杂网络数据、仿真建模等任务。


利用NetWorkx可以以标准化和非标准化数据格式存储网络,生成多种随机网络和经典网络,分析网络结构,建立网络模型,设计新的网络算法,进行网络绘制等。


3.1 NetWorkx库的安装和使用


由于NetWorkx库默认集成在Anaconda软件中,因此,如果已经安装了Anaconda,那么可以直接使用NetWorkx库。


3.2 查询NetWorkx库的版本


import networkx
print(networkx.__version__)
# 2.7.1


3.3 NetWorkx库支持的图结构


  1. Graph:无多重边无向图。
  2. DiGraph:无多重边有向图。
  3. MultiGraph:有多重边无向图。
  4. MuliDiGraph:有多重边有向图。


3.4 NetWorkx库中的图数据对象


NetWorkx库中的图数据对象可以通过nx.generate_graphml接口转化成graphm/文件格式的字符串。该字符串是以生成器形式存储的,每一个子图为生成器中的一个元素。


import networkx as nx
G = nx.path_graph(4)
print(list(nx.generate_graphml(G)))


在该代码执行后,会输出graphml文件格式的图数据对象,具体如下:


['<graphml xmlns="http://graphml.graphdrawing.org/xmlns" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://graphml.graphdrawing.org/xmlns http://graphml.graphdrawing.org/xmlns/1.0/graphml.xsd">', '  <graph edgedefault="undirected">', '    <node id="0" />', '    <node id="1" />', '    <node id="2" />', '    <node id="3" />', '    <edge source="0" target="1" />', '    <edge source="1" target="2" />', '    <edge source="2" target="3" />', '  </graph>', '</graphml>']


通过graphml文件格式的描述,实现图数据的文本形式显示,可以通过直接修改graphml文件的内容完成对图数据的维护,比使用接口函数的方式更直接,也更灵活。


3.4.1 graphml文件的持久化


使用nx_writegraphm接口可输出内存中的图对象,待编辑好之后,使用nx.read_graphml接口将文件加载到内存中。


3.4.2 graphml文件的打开方式


graphml的文件使用的是xml格式,可以用yEd Graph Edtor软件打开

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
目录
相关文章
|
3月前
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch 中的动态计算图:实现灵活的神经网络架构
【8月更文第27天】PyTorch 是一款流行的深度学习框架,它以其灵活性和易用性而闻名。与 TensorFlow 等其他框架相比,PyTorch 最大的特点之一是支持动态计算图。这意味着开发者可以在运行时定义网络结构,这为构建复杂的模型提供了极大的便利。本文将深入探讨 PyTorch 中动态计算图的工作原理,并通过一些示例代码展示如何利用这一特性来构建灵活的神经网络架构。
290 1
|
3月前
|
机器学习/深度学习 人工智能 PyTorch
【深度学习】使用PyTorch构建神经网络:深度学习实战指南
PyTorch是一个开源的Python机器学习库,特别专注于深度学习领域。它由Facebook的AI研究团队开发并维护,因其灵活的架构、动态计算图以及在科研和工业界的广泛支持而受到青睐。PyTorch提供了强大的GPU加速能力,使得在处理大规模数据集和复杂模型时效率极高。
193 59
|
2月前
|
机器学习/深度学习
小土堆-pytorch-神经网络-损失函数与反向传播_笔记
在使用损失函数时,关键在于匹配输入和输出形状。例如,在L1Loss中,输入形状中的N代表批量大小。以下是具体示例:对于相同形状的输入和目标张量,L1Loss默认计算差值并求平均;此外,均方误差(MSE)也是常用损失函数。实战中,损失函数用于计算模型输出与真实标签间的差距,并通过反向传播更新模型参数。
|
1月前
|
机器学习/深度学习 存储 自然语言处理
深度学习入门:循环神经网络------RNN概述,词嵌入层,循环网络层及案例实践!(万字详解!)
深度学习入门:循环神经网络------RNN概述,词嵌入层,循环网络层及案例实践!(万字详解!)
|
3月前
|
机器学习/深度学习 人工智能 编解码
【神经网络】基于对抗神经网络的图像生成是如何实现的?
对抗神经网络,尤其是生成对抗网络(GAN),在图像生成领域扮演着重要角色。它们通过一个有趣的概念——对抗训练——来实现图像的生成。以下将深入探讨GAN是如何实现基于对抗神经网络的图像生成的
37 3
|
3月前
|
机器学习/深度学习 算法 文件存储
【博士每天一篇文献-算法】 PNN网络启发的神经网络结构搜索算法Progressive neural architecture search
本文提出了一种名为渐进式神经架构搜索(Progressive Neural Architecture Search, PNAS)的方法,它使用顺序模型优化策略和替代模型来逐步搜索并优化卷积神经网络结构,从而提高了搜索效率并减少了训练成本。
57 9
|
3月前
|
机器学习/深度学习 网络安全 TensorFlow
探索操作系统的心脏:内核与用户空间的奥秘云计算与网络安全:技术挑战与未来趋势深度学习中的卷积神经网络(CNN)及其在图像识别中的应用
【8月更文挑战第29天】在数字世界的每一次点击与滑动背后,都隐藏着一个不为人知的故事。这个故事关于操作系统——计算机的灵魂,它如何协调硬件与软件,管理资源,并确保一切运行得井井有条。本文将带你走进操作系统的核心,揭示内核与用户空间的秘密,展现它们如何共同编织出我们日常数字生活的底层结构。通过深入浅出的讲解和代码示例,我们将一同解锁操作系统的神秘面纱,理解其对现代计算的重要性。 【8月更文挑战第29天】本文将深入探讨卷积神经网络(CNN)的基本原理和结构,以及它们如何被广泛应用于图像识别任务中。我们将通过代码示例来展示如何使用Python和TensorFlow库构建一个简单的CNN模型,并训练
|
3月前
|
机器学习/深度学习 PyTorch 测试技术
深度学习入门:使用 PyTorch 构建和训练你的第一个神经网络
【8月更文第29天】深度学习是机器学习的一个分支,它利用多层非线性处理单元(即神经网络)来解决复杂的模式识别问题。PyTorch 是一个强大的深度学习框架,它提供了灵活的 API 和动态计算图,非常适合初学者和研究者使用。
54 0
|
5月前
|
机器学习/深度学习 PyTorch 算法框架/工具
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】
|
3月前
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch代码实现神经网络
这段代码示例展示了如何在PyTorch中构建一个基础的卷积神经网络(CNN)。该网络包括两个卷积层,分别用于提取图像特征,每个卷积层后跟一个池化层以降低空间维度;之后是三个全连接层,用于分类输出。此结构适用于图像识别任务,并可根据具体应用调整参数与层数。
下一篇
无影云桌面