Re31:读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

简介: Re31:读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

1. Background & Motivation


很多图表示学习框架,如DeepWalk、LINE、node2vec等,都是参考了NLP中word2vec思路实现的。这免于了设计网络特征,直接学习隐特征。

下游任务:节点分类,聚类,similarity search12

(在介绍相关研究工作的时候,感觉Predictive Text Embedding (PTE)这个模型可能以后也需要去看一下)

image.png

image.png

(related work小节没看)


2. 模型


image.png

(以下负采样等具体细节不赘)

2.1 metapath2vec

DeepWalk和node2vec用随机游走获取上下文信息,用skip-gram模型学习节点表征:

image.png

异质图skip-gram:

image.png

在异质图上直接进行随机游走可能会严重biased,因此使用metapath

metapath定义:

image.png

关于metapath开头和结尾节点是不是必须得是同一种:按这说法应该是

image.png


2.2 metapath2vec++

39ab54e3e0c1473c93b227aa202ed8f4.png


3. 实验


3.1 数据集

AMiner

DBIS


3.2 baseline

DeepWalk/node2vec

LINE

PTE

Spectral Clustering/Graph Factorization:直接就没拿来比了


3.3 实验设置


3.4 multi-class节点分类

image.png

image.pngimage.png


3.5 节点聚类

image.png

image.png


3.6 案例分析:similarity search

image.png

image.png

image.png


3.7 Scalability

image.png


4. Future Work


  1. 中间输出太大
  2. 自动学习metapath
  3. 应用到动态图上
  4. 泛化到其他领域
目录
打赏
0
0
0
0
20
分享
相关文章
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
本文提出了一种基于元学习的跨域终身学习框架,通过跨域三元组网络(CDTN)学习任务间的相似性表示,并结合自注意模块与软注意网络(SAN)来增强特征提取和任务权重分配,以提高学习效率并减少对先前知识的遗忘。
61 1
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
【文献学习】RoemNet: Robust Meta Learning based Channel Estimation in OFDM Systems
本文提出了一种基于元学习的鲁棒信道估计算法RoemNet,旨在解决OFDM系统中由于训练和部署信道模型不一致导致的问题,并展示了其在不同信道环境下优越的性能。
50 5
论文精度笔记(二):《Deep Learning based Face Liveness Detection in Videos 》
论文提出了基于深度学习的面部欺骗检测技术,使用LRF-ELM和CNN两种模型,在NUAA和CASIA数据库上进行实验,发现LRF-ELM在检测活体面部方面更为准确。
46 1
论文精度笔记(二):《Deep Learning based Face Liveness Detection in Videos 》
Speech Emotion Recognition With Local-Global aware Deep Representation Learning论文解读
语音情感识别(SER)通过从语音信号中推断人的情绪和情感状态,在改善人与机器之间的交互方面发挥着至关重要的作用。尽管最近的工作主要集中于从手工制作的特征中挖掘时空信息,但我们探索如何从动态时间尺度中建模语音情绪的时间模式。
175 0
【论文精读】COLING 2022 -Event Detection with Dual Relational Graph Attention Networks
图神经网络(Scarselli et al, 2009)已被广泛用于编码事件检测的依赖树,因为它们可以基于信息聚合方案有效地捕获相关信息(Cao et al, 2021)。
214 0
【论文解读】Dual Contrastive Learning:Text Classification via Label-Aware Data Augmentation
北航出了一篇比较有意思的文章,使用标签感知的数据增强方式,将对比学习放置在有监督的环境中 ,下游任务为多类文本分类,在低资源环境中进行实验取得了不错的效果
522 0
【论文阅读】(2019)SimGNN:A Neural Network Approach to Fast Graph Similarity Computation
- 图形相似性搜索是最重要的基于图形的应用程序之一,例如查找与查询化合物最相似的化合物。 - 图相似性距离计算,如图编辑距离(GED)和最大公共子图(MCS),是图相似性搜索和许多其他应用程序的核心操作,但实际计算成本很高。 - 受神经网络方法最近成功应用于若干图形应用(如节点或图形分类)的启发,我们提出了一种新的基于神经网络的方法来解决这一经典但具有挑战性的图形问题,**旨在减轻计算负担,同时保持良好的性能**。 - 提出的**方法称为SimGNN**,它结合了两种策略。 - 首先,我们**设计了一个可学习的嵌入函数**,将每个图映射到一个嵌入向量中,从而提供图的全局摘要。**提出了一种新的
307 0
【论文阅读】(2019)SimGNN:A Neural Network Approach to Fast Graph Similarity Computation
《Multi-Task Multi-Network Joint-Learning of Deep Residual Networks and Cycle-Consistency Generative Adversarial Networks for Robust Speech Recognition》电子版地址
Multi-Task Multi-Network Joint-Learning of Deep Residual Networks and Cycle-Consistency Generative Adversarial Networks for Robust Speech Recognition
115 0
《Multi-Task Multi-Network Joint-Learning of Deep Residual Networks and Cycle-Consistency Generative Adversarial Networks for Robust Speech Recognition》电子版地址
Re22:读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
Re22:读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
Re22:读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等