AI 助理
备案控制台
开发者社区 人工智能 文章 正文

Re31：读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

2022-10-23 238
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： Re31：读论文 metapath2vec: Scalable Representation Learning for Heterogeneous Networks

1. Background & Motivation

很多图表示学习框架，如DeepWalk、LINE、node2vec等，都是参考了NLP中word2vec思路实现的。这免于了设计网络特征，直接学习隐特征。

下游任务：节点分类，聚类，similarity search12

（在介绍相关研究工作的时候，感觉Predictive Text Embedding (PTE)这个模型可能以后也需要去看一下）

image.png

image.png

（related work小节没看）


2. 模型

image.png

（以下负采样等具体细节不赘）

2.1 metapath2vec

DeepWalk和node2vec用随机游走获取上下文信息，用skip-gram模型学习节点表征：

image.png

异质图skip-gram：

image.png

在异质图上直接进行随机游走可能会严重biased，因此使用metapath

metapath定义：

image.png

关于metapath开头和结尾节点是不是必须得是同一种：按这说法应该是

image.png


2.2 metapath2vec++

39ab54e3e0c1473c93b227aa202ed8f4.png


3. 实验

3.1 数据集

AMiner

DBIS


3.2 baseline

DeepWalk/node2vec

LINE

PTE

Spectral Clustering/Graph Factorization：直接就没拿来比了


3.3 实验设置

略


3.4 multi-class节点分类

image.png

image.pngimage.png


3.5 节点聚类

image.png

image.png


3.6 案例分析：similarity search

image.png

image.png

image.png


3.7 Scalability

image.png


4. Future Work

  1. 中间输出太大
  2. 自动学习metapath
  3. 应用到动态图上
  4. 泛化到其他领域
文章标签：
自然语言处理
数据挖掘
知识图谱
诸神缄默不语
目录
相关文章
诸神缄默不语
|
机器学习/深度学习
Re22：读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
Re22：读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
诸神缄默不语
224 0
Re22：读论文 HetSANN An Attention-based Graph Neural Network for Heterogeneous Structural Learning
我是wangxiao-23158
|
机器学习/深度学习 数据挖掘
论文笔记之：Heterogeneous Face Attribute Estimation: A Deep Multi-Task Learning Approach
Heterogeneous Face Attribute Estimation: A Deep Multi-Task Learning Approach  2017.11.28    Introduction： 　　人脸属性的识别在社会交互，提供了非常广泛的信息，包括：the person’s ...
我是wangxiao-23158
2362 0
BetterBench
|
6月前
|
存储 算法 计算机视觉
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
本文提出了一种基于元学习的跨域终身学习框架，通过跨域三元组网络（CDTN）学习任务间的相似性表示，并结合自注意模块与软注意网络（SAN）来增强特征提取和任务权重分配，以提高学习效率并减少对先前知识的遗忘。
BetterBench
59 1
【博士每天一篇文献-模型】Meta-Learning Based Tasks Similarity Representation for Cross Domain Lifelong Learning
壹佰、
|
机器学习/深度学习 搜索推荐
【推荐系统论文精读系列】(十七)--Content-Aware Collaborative Music Recommendation Using Pre-trained Neural Networks
虽然内容是我们音乐收听喜好的基础，但音乐推荐的领先性能是通过基于协作过滤的方法实现的，这种方法利用了用户收听历史中的相似模式，而不是歌曲的音频内容。与此同时，协同过滤有一个众所周知的“冷启动”问题，也就是说，它无法处理没有人听过的新歌。将内容信息整合到协作过滤方法的努力在许多非音乐应用中都取得了成功，比如科学文章推荐。受相关工作的启发，我们将语义标签信息训练成一个神经网络作为内容模型，并将其作为协作过滤模型的先决条件。这样的系统仍然允许用户监听数据“为自己说话”。在百万歌曲数据集上进行了测试，结果表明该系统比协同过滤方法有更好的效果，并且在冷启动情况下具有良好的性能。
壹佰、
270 0
【推荐系统论文精读系列】(十七)--Content-Aware Collaborative Music Recommendation Using Pre-trained Neural Networks
壹佰、
|
机器学习/深度学习 搜索推荐
【推荐系统论文精读系列】(十四)--Information Fusion-Based Deep Neural Attentive Matrix Factorization Recommendation
推荐系统的出现，有效地缓解了信息过载的问题。而传统的推荐系统，要么忽略用户和物品的丰富属性信息，如用户的人口统计特征、物品的内容特征等，面对稀疏性问题，要么采用全连接网络连接特征信息，忽略不同属性信息之间的交互。本文提出了基于信息融合的深度神经注意矩阵分解(ifdnamf)推荐模型，该模型引入了用户和物品的特征信息，并采用不同信息域之间的交叉积来学习交叉特征。此外，还利用注意机制来区分不同交叉特征对预测结果的重要性。此外，ifdnamf采用深度神经网络来学习用户与项目之间的高阶交互。同时，作者在电影和图书这两个数据集上进行了广泛的实验，并证明了该模型的可行性和有效性。
壹佰、
328 0
【推荐系统论文精读系列】(十四)--Information Fusion-Based Deep Neural Attentive Matrix Factorization Recommendation
公开课小能手
|
语音技术 机器学习/深度学习 计算机视觉
语音顶会Interspeech 论文解读｜Multi-Task Multi-Network Joint-Learning of Deep Residual Networks and Cycle-Consistency Generative Adversarial Networks for Robus
Interspeech是世界上规模最大，最全面的顶级语音领域会议，本文为Shengkui Zhao, Chongjia Ni, Rong Tong, Bin Ma的入选论文
公开课小能手
864 0
语音顶会Interspeech 论文解读｜Multi-Task Multi-Network Joint-Learning of Deep Residual Networks and Cycle-Consistency Generative Adversarial Networks for Robus
Bigcrab__
|
9月前
|
TensorFlow 算法框架/工具
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（上）
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（上）
Bigcrab__
64 1
Bigcrab__
|
9月前
|
机器学习/深度学习 Python TensorFlow
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（下）
[seq2seq]论文实现：Effective Approaches to Attention-based Neural Machine Translation（下）
Bigcrab__
59 1
诸神缄默不语
|
机器学习/深度学习 人工智能 计算机视觉
Re2：读论文 CS-GNN Measuring and Improving the Use of Graph Information in Graph Neural Networks
Re2：读论文 CS-GNN Measuring and Improving the Use of Graph Information in Graph Neural Networks
诸神缄默不语
208 0
Re2：读论文 CS-GNN Measuring and Improving the Use of Graph Information in Graph Neural Networks
marsggbo
|
机器学习/深度学习 算法 网络架构
论文笔记系列-Simple And Efficient Architecture Search For Neural Networks
摘要 本文提出了一种新方法，可以基于简单的爬山过程自动搜索性能良好的CNN架构，该算法运算符应用网络态射，然后通过余弦退火进行短期优化运行。 令人惊讶的是，这种简单的方法产生了有竞争力的结果，尽管只需要与训练单个网络相同数量级的资源。
marsggbo
1751 0

热门文章

最新文章

  • 1
    deepseek部署的详细步骤和方法，基于Ollama获取顶级推理能力！
  • 2
    讨论阶段性给予客户交付物所引发的风险问题
  • 3
    Linus Torvalds将中国亮相LinuxCon + ContainerCon + CloudOpen
  • 4
    DispatcherServlet与初始化主线
  • 5
    网络安全研究人员发现新漏洞：或成另一个WannaCry
  • 6
    Swift中常量和变量的声明
  • 7
    [20160516]adrci purge.txt
  • 8
    Docker Secure Deployment Guidelines
  • 9
    Eclipse没有权限操作rt.jar包中的sun包，导致sun.net.ftp.FtpClient引用报错
  • 10
    Learning Cocos2d-x for WP8（9）——Sprite到哪，我做主
  • 1
    去中心化存储：数据存储的新范式
    117
  • 2
    AI 赋能混合云运维：告别手工操作，迈向智能自愈！
    116
  • 3
    从Excel到大数据：别让工具限制你的思维！
    109
  • 4
    Go 切片导致 rand.Shuffle 产生重复数据的原因与解决方案
    96
  • 5
    基于SVPWM矢量控制的无速度传感器电机控制系统simulink建模与仿真
    34
  • 6
    基于小波变换和峰值搜索的光谱检测matlab仿真,带GUI界面
    38
  • 7
    DragAnything：视频PS来了！开源AI控制器让视频「指哪动哪」：拖拽任意物体轨迹，多对象独立运动一键生成
    39
  • 8
    FoloUp：比HR更懂岗位需求！开源语音面试平台爆火：1份岗位需求生成100问，语音AI追问逻辑漏洞
    27
  • 9
    KTransformers：告别天价显卡！国产框架让单卡24G显存跑DeepSeek-R1 671B大模型：推理速度飙升28倍
    261
  • 10
    基于深度学习的路面裂缝检测算法matlab仿真
    24

    • 相关电子书

    更多
  • 低代码开发师（初级）实战教程
  • 冬季实战营第三期：MySQL数据库进阶实战
  • 阿里巴巴DevOps 最佳实践手册
    • 下一篇
    阿里云oss简介和如何对接使用