NeurIPS 2024:标签噪声下图神经网络有了首个综合基准库,还开源

简介: NoisyGL是首个针对标签噪声下图神经网络(GLN)的综合基准库,由浙江大学和阿里巴巴集团的研究人员开发。该基准库旨在解决现有GLN研究中因数据集选择、划分及预处理技术差异导致的缺乏统一标准问题,提供了一个公平、用户友好的平台,支持多维分析,有助于深入理解GLN方法在处理标签噪声时的表现。通过17种代表性方法在8个常用数据集上的广泛实验,NoisyGL揭示了多个关键发现,推动了GLN领域的进步。尽管如此,NoisyGL目前主要适用于同质图,对异质图的支持有限。

图神经网络(GNNs)在处理图结构数据方面展现出了强大的潜力,尤其是在节点分类任务中。然而,GNNs的性能往往依赖于高质量的节点标签,而这些标签在现实世界中很难获得,因为它们可能来自不可靠的来源或受到对抗攻击的影响。因此,标签噪声在现实世界的图数据中很常见,会对GNNs的训练产生负面影响。

为了解决这个问题,近年来,研究者们开始关注在标签噪声下的图神经网络(GLN)。然而,由于数据集选择、数据划分和预处理技术的差异,目前缺乏一个综合的基准库,这阻碍了对GLN的更深入理解和进一步发展。

为了填补这一空白,Zhejiang University和Alibaba Group的研究人员在NeurIPS 2024上介绍了NoisyGL,这是第一个针对标签噪声下的图神经网络的综合基准库。NoisyGL旨在为GLN方法提供一个公平的比较平台,并进行详细的分析,以便在各种数据集上对带有噪声标签的图数据进行评估。

NoisyGL具有统一的实验设置和接口,可以确保公平的比较,并允许用户轻松构建自己的模型或数据集,而不需要太多努力。此外,NoisyGL还支持多维分析,使研究人员能够探索不同方法的时间效率,并了解图结构对处理标签噪声的影响。

通过广泛的实验,NoisyGL的研究人员发现了一些重要的见解,这些见解在之前的研究工作中被忽视了。其中一些关键发现包括:

  1. LLN方法不能显著提高GNN的鲁棒性:简单地应用学习带有标签噪声(LLN)的方法并不能显著提高GNN在标签噪声下的鲁棒性。
  2. GLN方法在特定场景下有效:现有的GLN方法可以在其适用的场景中减轻标签噪声的影响,但它们不能在所有数据集上都表现良好。
  3. 对偶噪声是最有害的:对偶噪声(pair noise)是对图学习最有害的标签噪声类型,因为它具有误导性的影响。
  4. 标签噪声的负面影响可以通过图结构传播:标签噪声的负面影响可以通过图结构传播,尤其是在稀疏图中。
  5. 图结构增强的GLN方法可以减轻标签噪声的传播效应:涉及图结构增强的GLN方法可以有效地减轻标签噪声的传播效应。

NoisyGL的贡献包括:

  • 对当前研究挑战的深入回顾:NoisyGL的研究人员回顾并审视了GLN的整个发展过程,发现缺乏一个全面的基准库是阻碍更深入理解的主要因素。
  • 提供一个全面且用户友好的基准库:NoisyGL是第一个针对GLN的全面基准库,它包括17种代表性方法,并在8个常用数据集上进行了评估。这个基准库已经开源,供研究人员使用。
  • 突出关键发现和未来机会:NoisyGL的研究人员通过广泛的实验发现了一些关键的见解,这些见解有可能大大推进这个领域的发展。

NoisyGL的出现为标签噪声下的图神经网络研究提供了一个重要的平台,它具有以下优点:

  • 公平的比较:NoisyGL的统一实验设置和接口可以确保不同方法之间的公平比较。
  • 用户友好:NoisyGL允许用户轻松构建自己的模型或数据集,而不需要太多努力。
  • 多维分析:NoisyGL支持多维分析,使研究人员能够探索不同方法的时间效率,并了解图结构对处理标签噪声的影响。

然而,NoisyGL也存在一些局限性,例如它主要关注于同质图,而对异质图的处理能力有限。此外,NoisyGL目前只包括有限的GLN方法,未来可以考虑包括更多的方法来获得更全面的理解。

论文地址:https://arxiv.org/pdf/2406.04299

目录
相关文章
|
15天前
|
存储 人工智能 弹性计算
阿里云弹性计算_加速计算专场精华概览 | 2024云栖大会回顾
2024年9月19-21日,2024云栖大会在杭州云栖小镇举行,阿里云智能集团资深技术专家、异构计算产品技术负责人王超等多位产品、技术专家,共同带来了题为《AI Infra的前沿技术与应用实践》的专场session。本次专场重点介绍了阿里云AI Infra 产品架构与技术能力,及用户如何使用阿里云灵骏产品进行AI大模型开发、训练和应用。围绕当下大模型训练和推理的技术难点,专家们分享了如何在阿里云上实现稳定、高效、经济的大模型训练,并通过多个客户案例展示了云上大模型训练的显著优势。
|
18天前
|
存储 人工智能 调度
阿里云吴结生:高性能计算持续创新,响应数据+AI时代的多元化负载需求
在数字化转型的大潮中,每家公司都在积极探索如何利用数据驱动业务增长,而AI技术的快速发展更是加速了这一进程。
|
10天前
|
并行计算 前端开发 物联网
全网首发!真·从0到1!万字长文带你入门Qwen2.5-Coder——介绍、体验、本地部署及简单微调
2024年11月12日,阿里云通义大模型团队正式开源通义千问代码模型全系列,包括6款Qwen2.5-Coder模型,每个规模包含Base和Instruct两个版本。其中32B尺寸的旗舰代码模型在多项基准评测中取得开源最佳成绩,成为全球最强开源代码模型,多项关键能力超越GPT-4o。Qwen2.5-Coder具备强大、多样和实用等优点,通过持续训练,结合源代码、文本代码混合数据及合成数据,显著提升了代码生成、推理和修复等核心任务的性能。此外,该模型还支持多种编程语言,并在人类偏好对齐方面表现出色。本文为周周的奇妙编程原创,阿里云社区首发,未经同意不得转载。
|
22天前
|
缓存 监控 Linux
Python 实时获取Linux服务器信息
Python 实时获取Linux服务器信息
|
8天前
|
人工智能 自然语言处理 前端开发
什么?!通义千问也可以在线开发应用了?!
阿里巴巴推出的通义千问,是一个超大规模语言模型,旨在高效处理信息和生成创意内容。它不仅能在创意文案、办公助理、学习助手等领域提供丰富交互体验,还支持定制化解决方案。近日,通义千问推出代码模式,基于Qwen2.5-Coder模型,用户即使不懂编程也能用自然语言生成应用,如个人简历、2048小游戏等。该模式通过预置模板和灵活的自定义选项,极大简化了应用开发过程,助力用户快速实现创意。
|
5天前
|
云安全 存储 弹性计算
|
7天前
|
云安全 人工智能 自然语言处理
|
4天前
|
人工智能 C++ iOS开发
ollama + qwen2.5-coder + VS Code + Continue 实现本地AI 辅助写代码
本文介绍在Apple M4 MacOS环境下搭建Ollama和qwen2.5-coder模型的过程。首先通过官网或Brew安装Ollama,然后下载qwen2.5-coder模型,可通过终端命令`ollama run qwen2.5-coder`启动模型进行测试。最后,在VS Code中安装Continue插件,并配置qwen2.5-coder模型用于代码开发辅助。
331 4
|
4天前
|
缓存 Linux Docker
【最新版正确姿势】Docker安装教程(简单几步即可完成)
之前的老版本Docker安装教程已经发生了变化,本文分享了Docker最新版安装教程,其他操作系统版本也可以参考官 方的其他安装版本文档。
【最新版正确姿势】Docker安装教程(简单几步即可完成)
|
10天前
|
人工智能 自然语言处理 前端开发
用通义灵码,从 0 开始打造一个完整APP,无需编程经验就可以完成
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。本教程完全免费,而且为大家准备了 100 个降噪蓝牙耳机,送给前 100 个完成的粉丝。获奖的方式非常简单,只要你跟着教程完成第一课的内容就能获得。