Re31:读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

简介: Re31:读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

1. Background & Motivation


很多图表示学习框架,如DeepWalk、LINE、node2vec等,都是参考了NLP中word2vec思路实现的。这免于了设计网络特征,直接学习隐特征。

下游任务:节点分类,聚类,similarity search12

(在介绍相关研究工作的时候,感觉Predictive Text Embedding (PTE)这个模型可能以后也需要去看一下)

image.png

image.png

(related work小节没看)


2. 模型


image.png

(以下负采样等具体细节不赘)

2.1 metapath2vec

DeepWalk和node2vec用随机游走获取上下文信息,用skip-gram模型学习节点表征:

image.png

异质图skip-gram:

image.png

在异质图上直接进行随机游走可能会严重biased,因此使用metapath

metapath定义:

image.png

关于metapath开头和结尾节点是不是必须得是同一种:按这说法应该是

image.png


2.2 metapath2vec++

39ab54e3e0c1473c93b227aa202ed8f4.png


3. 实验


3.1 数据集

AMiner

DBIS


3.2 baseline

DeepWalk/node2vec

LINE

PTE

Spectral Clustering/Graph Factorization:直接就没拿来比了


3.3 实验设置


3.4 multi-class节点分类

image.png

image.pngimage.png


3.5 节点聚类

image.png

image.png


3.6 案例分析:similarity search

image.png

image.png

image.png


3.7 Scalability

image.png


4. Future Work


  1. 中间输出太大
  2. 自动学习metapath
  3. 应用到动态图上
  4. 泛化到其他领域
相关文章
|
3月前
|
存储 算法 计算机视觉
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
本文提出了一种基于元学习的跨域终身学习框架,通过跨域三元组网络(CDTN)学习任务间的相似性表示,并结合自注意模块与软注意网络(SAN)来增强特征提取和任务权重分配,以提高学习效率并减少对先前知识的遗忘。
49 1
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
|
3月前
|
机器学习/深度学习 算法
【文献学习】RoemNet: Robust Meta Learning based Channel Estimation in OFDM Systems
本文提出了一种基于元学习的鲁棒信道估计算法RoemNet,旨在解决OFDM系统中由于训练和部署信道模型不一致导致的问题,并展示了其在不同信道环境下优越的性能。
40 5
|
1月前
|
机器学习/深度学习 编解码 算法
论文精度笔记(二):《Deep Learning based Face Liveness Detection in Videos 》
论文提出了基于深度学习的面部欺骗检测技术,使用LRF-ELM和CNN两种模型,在NUAA和CASIA数据库上进行实验,发现LRF-ELM在检测活体面部方面更为准确。
26 1
论文精度笔记(二):《Deep Learning based Face Liveness Detection in Videos 》
|
3月前
|
机器学习/深度学习 算法 测试技术
|
机器学习/深度学习 数据挖掘
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation
57 1
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation
|
存储 自然语言处理 测试技术
LASS: Joint Language Semantic and Structure Embedding for Knowledge Graph Completion 论文解读
补全知识三元组的任务具有广泛的下游应用。结构信息和语义信息在知识图补全中都起着重要作用。与以往依赖知识图谱的结构或语义的方法不同
129 0
|
机器学习/深度学习 自然语言处理 算法
【论文精读】COLING 2022 -Event Detection with Dual Relational Graph Attention Networks
图神经网络(Scarselli et al, 2009)已被广泛用于编码事件检测的依赖树,因为它们可以基于信息聚合方案有效地捕获相关信息(Cao et al, 2021)。
178 0
|
机器学习/深度学习 编解码 数据可视化
Speech Emotion Recognition With Local-Global aware Deep Representation Learning论文解读
语音情感识别(SER)通过从语音信号中推断人的情绪和情感状态,在改善人与机器之间的交互方面发挥着至关重要的作用。尽管最近的工作主要集中于从手工制作的特征中挖掘时空信息,但我们探索如何从动态时间尺度中建模语音情绪的时间模式。
140 0
|
数据挖掘
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation-ppt版学习笔记
PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation-ppt版学习笔记
129 0
|
机器学习/深度学习 算法 数据挖掘
A Generative Adversarial Network-based Deep Learning Method for Low-quality Defect ImageReconstructi
本文提出了一种基于生成对抗网络 (GAN) 的 DL 方法,用于低质量缺陷图像识别。 GAN用于重建低质量缺陷图像,并建立VGG16网络识别重建图像。
150 0