KDD 18 论文解读 | GraphWave:一种全新的无监督网络嵌入方法

简介:

论文动机

驻留在图的不同部分中的节点可能在其本地网络拓扑中具有类似的结构角色。然而学习节点的结构表示是一项具有挑战性的无监督学习任务,其通常涉及为每个节点人工指定和定制拓扑特征。

GraphWave 是一种可扩展的无监督方法,用于基于网络中的结构相似性来学习节点嵌入。GraphWave 通过将小波视为概率分布并使用经验特征函数表征分布来开发光谱图小波的新用途。

GraphWave 提供理论保证,具有相似本地网络邻域的节点将具有类似的 GraphWave 嵌入,即使这些节点可能驻留在网络的非常不同的部分中。 GraphWave 与边数成线性比例,不需要任何人工定制节点的拓扑特征。

模型介绍

GraphWave 基于以该节点为中心的谱图小波的扩散,学习每个节点的结构嵌入。直观地,每个节点在图上传播能量单位,并基于网络对该探测的响应来表征其相邻拓扑。

GraphWave 使用一种新颖的方法将小波视为图上的概率分布。通过这种方式,结构信息包含在扩散如何通过网络传播而不是传播的位置。为了提供矢量值特征,然后可以将其用作任何机器学习算法的输入,GraphWave 使用经验特征函数嵌入这些小波分布。

add5cc3326c2543c9af1d7582ec45035836fae17

在上图中,节点 a 和 b 具有相似的局部结构角色,即使它们在图中很远。虽然 a 和 b 的原始光谱图小波签名/系数 Ψ 可能非常不同,但 GraphWave 将它们视为概率分布,因此可以自动了解系数分布确实相似。GraphWave 利用这些新见解,基于以节点 a/b 为中心的谱图小波的扩散,学习节点 a/b 的结构嵌入。

b023bc80820e5ea37ce9a35efc0ab953add77b14

GraphWave算法

实验结果

Barbell Graph

在这个例子中,文章考虑一个杠铃图,它由两个由长链连接的密集团组成。 我们将 GraphWave 应用于杠铃图并绘制学习结构签名的 2D PCA。

从下图中可以看出,该图具有 8 个不同类别的结构等效节点,如颜色(左)所示。 结构签名的 2D PCA 投影(右)包含与杠铃图中的节点相同数量的点。 这是因为相同的签名具有相同的投影,导致重叠点。

51344be88e4f9a18f3e4719b48ef3d6994ea7712

GraphWave 正确地学习了结构等效节点的相同表示,为 GraphWave 的理论保证提供了经验证据。这可以通过图中的结构等效节点(相同颜色的节点)在 PCA 图中具有相同的投影来看出。

特别是,GraphWave 正确地将 clique 节点(紫色)组合在一起。GraphWave 还正确区分连接杠铃图中两个密集团的节点。它以类似梯度的模式表示那些捕获这些节点的结构角色谱的节点(右)。

A Cycle Graph with Attached House Shapes

在这个例子中,文中考虑一个图形,其中“房屋”形状沿循环图定期放置。和以前一样,我们使用 GraphWave 来学习图中节点的结构签名,然后使用有关结构角色的地面实况信息来评估 GraphWave 的性能。

图形在下图(左)中可视化,同时还有 GraphWave 结构签名的 2D PCA 投影(中间)。我们观察到结构等效节点的表示重叠,GraphWave 完美地恢复了 6 种不同的节点类型。

22527412f977abefc3065f053b8c884b94e1cc06

可以看到小波系数分布的最终特征函数(右)。在该图中,不同形状的特征函数捕获不同的结构角色。我们注意到这些曲线所携带的蓝色,浅绿色和红色节点的作用之间的视觉接近度,以及它们与核心深绿色和紫色节点的明显差异。

总结

本文提出了一种全新的 Network Embedding 方法 GraphWave,该方法使用谱图小波为每个节点生成结构嵌入,通过将小波视为分布并评估结果特征函数来实现,为网络嵌入提供了全新的思路。


原文发布时间为:2018-11-19

本文作者:薛寒生

本文来自云栖社区合作伙伴“PaperWeekly”,了解相关信息可以关注“PaperWeekly”。

相关文章
|
6月前
|
机器学习/深度学习 算法 调度
14种智能算法优化BP神经网络(14种方法)实现数据预测分类研究(Matlab代码实现)
14种智能算法优化BP神经网络(14种方法)实现数据预测分类研究(Matlab代码实现)
495 0
|
5月前
|
机器学习/深度学习 数据可视化 网络架构
PINN训练新思路:把初始条件和边界约束嵌入网络架构,解决多目标优化难题
PINNs训练难因多目标优化易失衡。通过设计硬约束网络架构,将初始与边界条件内嵌于模型输出,可自动满足约束,仅需优化方程残差,简化训练过程,提升稳定性与精度,适用于气候、生物医学等高要求仿真场景。
631 4
PINN训练新思路:把初始条件和边界约束嵌入网络架构,解决多目标优化难题
|
6月前
|
机器学习/深度学习 资源调度 算法框架/工具
AI-ANNE: 将神经网络迁移到微控制器的深度探索——论文阅读
AI-ANNE框架探索将深度学习模型迁移至微控制器的可行路径,基于MicroPython在Raspberry Pi Pico上实现神经网络核心组件,支持本地化推理,推动TinyML在边缘设备中的应用。
375 10
|
6月前
|
机器学习/深度学习 边缘计算 算法
SEENN: 迈向时间脉冲早退神经网络——论文阅读
SEENN提出一种时间脉冲早退神经网络,通过自适应调整每个样本的推理时间步数,有效平衡脉冲神经网络的准确率与计算效率。该方法基于置信度判断或强化学习策略,在保证高精度的同时显著降低能耗与延迟,适用于边缘计算与实时处理场景。
371 13
|
5月前
|
机器学习/深度学习 数据采集 边缘计算
基于灰色神经网络的预测方法
基于灰色神经网络的预测方法
348 0
|
6月前
|
机器学习/深度学习 缓存 算法
2025年华为杯A题|通用神经网络处理器下的核内调度问题研究生数学建模|思路、代码、论文|持续更新中....
2025年华为杯A题|通用神经网络处理器下的核内调度问题研究生数学建模|思路、代码、论文|持续更新中....
582 1
|
6月前
|
算法 Python
【EI复现】考虑网络动态重构的分布式电源选址定容优化方法(Matlab代码实现)
【EI复现】考虑网络动态重构的分布式电源选址定容优化方法(Matlab代码实现)
230 0
|
7月前
|
机器学习/深度学习 数据采集 TensorFlow
基于CNN-GRU-Attention混合神经网络的负荷预测方法(Python代码实现)
基于CNN-GRU-Attention混合神经网络的负荷预测方法(Python代码实现)
391 0
|
SQL 安全 网络安全
网络安全与信息安全:知识分享####
【10月更文挑战第21天】 随着数字化时代的快速发展,网络安全和信息安全已成为个人和企业不可忽视的关键问题。本文将探讨网络安全漏洞、加密技术以及安全意识的重要性,并提供一些实用的建议,帮助读者提高自身的网络安全防护能力。 ####
379 17

热门文章

最新文章