阿里达摩院KDD 2022最佳论文线上分享:核心作者解读FederatedScope-GNN

简介: 阿里达摩院KDD 2022最佳论文线上分享:核心作者解读FederatedScope-GNN

近年来,在全社会对隐私保护日益重视的背景下,联邦学习的研究和应用得到了长足发展。这一进步很大程度上得益于联邦学习框架及算法库的支持。当前,这类框架对联邦学习中各个参与方的通信、计算图的描述和拆分调度、模型的部署与推理等一般性的基础设施均有完整丰富的支持。但是,现有框架和库对图联邦的支持相对有限,难以基于已有工作去建立联邦图学习的基准。学术界和工业界都对一款功能全面且对实现联邦图学习算法友好的框架有强烈需求。 在最近的 KDD 2022 应用方向最佳论文获奖工作 FederatedScope-GNN 中,阿里巴巴达摩院的研究者针对图学习提供了 DataZoo 和 ModelZoo,为用户提供了丰富多样的联邦图数据集和相应模型与算法。DataZoo 提供的大量数据集涵盖了不同领域、不同任务类型、不同统计异质性的联邦图数据,方便了使用者对所关注算法进行全面评估。ModelZoo 中包含了像 FedSage + 和 GCFL + 等最新联邦图学习算法的实现。得益于底层框架事件驱动的编程范式,参与者间多样的消息交换和丰富的行为得以模块化地进行拆分实现。同时,针对联邦图学习对超参数敏感的现象,FederatedScope-GNN 还实现了模型调优相关的模块。 基于上述功能和特性,该论文建立了全面丰富的联邦图学习基准,包含不同图上任务、不同图神经网络架构、不同的联邦优化算法等,为该领域后续的研究奠定了坚实基础。

8 月 22 日,机器之心最新一期线上分享到了 KDD 2022 最佳论文的作者王桢,为我们详细解读 FederatedScope-GNN 这项工作背后的故事。

王桢

分享主题:KDD 2022 最佳论文解读——阿里巴巴达摩院联邦图学习工作 FederatedScope-GNN

分享摘要阿里巴巴达摩院实现了针对图学习的库 FederatedScope-GNN,提供了丰富的联邦图数据集和相应模型与算法,且针对联邦图学习对超参数敏感的现象,实现了模型调优模块。该工作建立了全面丰富的联邦图学习基准,为该领域后续研究奠定基础。

分享嘉宾:王桢,2017 年博士毕业于中山大学,读博期间发表知识图谱补全算法 TransH,单篇引用量超 2500 次。毕业后加入阿里巴巴,在达摩院致力于联邦图学习等前沿研究,发表多篇国际顶级会议论文,并作为核心设计与开发人员参与开源 FederatedScope 平台。

相关论文:https://arxiv.org/pdf/2204.05562.pdf

相关文章
|
机器学习/深度学习 人工智能 算法
CV领域再创佳绩!阿里云机器学习平台 PAI 多篇论文入选 ICCV 2023
近期,阿里云机器学习平台PAI发表的多篇论文在ICCV 2023上入选。ICCV是国际计算机视觉大会是由电气和电子工程师协会每两年举办一次的研究大会。与CVPR和ECCV一起,它被认为是计算机视觉领域的顶级会议之一。ICCV 2023将于10月2日至10月6日法国巴黎举办。ICCV汇聚了来自世界各地的学者、工程师和研究人员,分享最新的计算机视觉研究成果和技术进展。会议涵盖了计算机视觉领域的各个方向,包括图像处理、模式识别、机器学习、人工智能等等。ICCV的论文发表和演讲都备受关注,是计算机视觉领域交流和合作的重要平台。
|
机器学习/深度学习 人工智能 自然语言处理
500篇论文!最全代码大模型综述来袭
11月14日,蚂蚁集团联合上海交通大学发布55页代码大模型综述,覆盖超过50个模型、30个下游任务、500篇参考文献,全方位总结大语言模型在代码相关应用中的最新进展与挑战。
1402 0
|
7月前
|
机器学习/深度学习 编解码 人工智能
全面超越ViT,美团、浙大等提出视觉任务统一架构VisionLLAMA
【2月更文挑战第17天】全面超越ViT,美团、浙大等提出视觉任务统一架构VisionLLAMA
76 2
全面超越ViT,美团、浙大等提出视觉任务统一架构VisionLLAMA
|
固态存储 算法 内存技术
腾讯2021sigmod论文Spitfire分析
腾讯2021sigmod论文Spitfire分析
141 0
|
机器学习/深度学习 人工智能 安全
隐语团队研究成果再创佳绩,两篇论文分别被USENIX ATC'23和IJCAI'23接收!
隐语团队研究成果再创佳绩,两篇论文分别被USENIX ATC'23和IJCAI'23接收!
210 0
|
机器学习/深度学习 算法 调度
阿里云机器学习平台PAI论文入选ASPLOS 2023
近日,阿里云机器学习平台PAI和上海交通大学冷静文老师团队合作的论文《图神经网络统一图算子抽象uGrapher》被ASPLOS 2023录取。
阿里云机器学习平台PAI论文入选ASPLOS 2023
|
人工智能 搜索推荐 算法
AAAI 2023杰出论文一作分享:新算法加持的大批量学习加速推荐系统训练
AAAI 2023杰出论文一作分享:新算法加持的大批量学习加速推荐系统训练
301 0
|
人工智能 安全 算法
可信联邦学习线上分享:杨强教授带领四篇论文解读最前沿研究
可信联邦学习线上分享:杨强教授带领四篇论文解读最前沿研究
103 0
|
机器学习/深度学习 人工智能 算法
谷歌大牛Jeff Dean单一作者撰文:深度学习研究的黄金十年
谷歌大牛Jeff Dean单一作者撰文:深度学习研究的黄金十年
147 0
|
机器学习/深度学习 存储 人工智能
NeurIPS提前看 | 四篇论文,一窥元学习的最新研究进展
2019 年,NeurIPS 接受与元学习相关的研究论文约有 20 余篇。元学习(Meta-Learning)是近几年的研究热点,其目的是基于少量无标签数据实现快速有效的学习。本文对本次接收的元学习论文进行了梳理和解读。
1218 0
NeurIPS提前看 | 四篇论文,一窥元学习的最新研究进展