图神经网络(GNNs)在处理图结构数据方面展现出了强大的潜力,尤其是在节点分类任务中。然而,GNNs的性能往往依赖于高质量的节点标签,而这些标签在现实世界中很难获得,因为它们可能来自不可靠的来源或受到对抗攻击的影响。因此,标签噪声在现实世界的图数据中很常见,会对GNNs的训练产生负面影响。
为了解决这个问题,近年来,研究者们开始关注在标签噪声下的图神经网络(GLN)。然而,由于数据集选择、数据划分和预处理技术的差异,目前缺乏一个综合的基准库,这阻碍了对GLN的更深入理解和进一步发展。
为了填补这一空白,Zhejiang University和Alibaba Group的研究人员在NeurIPS 2024上介绍了NoisyGL,这是第一个针对标签噪声下的图神经网络的综合基准库。NoisyGL旨在为GLN方法提供一个公平的比较平台,并进行详细的分析,以便在各种数据集上对带有噪声标签的图数据进行评估。
NoisyGL具有统一的实验设置和接口,可以确保公平的比较,并允许用户轻松构建自己的模型或数据集,而不需要太多努力。此外,NoisyGL还支持多维分析,使研究人员能够探索不同方法的时间效率,并了解图结构对处理标签噪声的影响。
通过广泛的实验,NoisyGL的研究人员发现了一些重要的见解,这些见解在之前的研究工作中被忽视了。其中一些关键发现包括:
- LLN方法不能显著提高GNN的鲁棒性:简单地应用学习带有标签噪声(LLN)的方法并不能显著提高GNN在标签噪声下的鲁棒性。
- GLN方法在特定场景下有效:现有的GLN方法可以在其适用的场景中减轻标签噪声的影响,但它们不能在所有数据集上都表现良好。
- 对偶噪声是最有害的:对偶噪声(pair noise)是对图学习最有害的标签噪声类型,因为它具有误导性的影响。
- 标签噪声的负面影响可以通过图结构传播:标签噪声的负面影响可以通过图结构传播,尤其是在稀疏图中。
- 图结构增强的GLN方法可以减轻标签噪声的传播效应:涉及图结构增强的GLN方法可以有效地减轻标签噪声的传播效应。
NoisyGL的贡献包括:
- 对当前研究挑战的深入回顾:NoisyGL的研究人员回顾并审视了GLN的整个发展过程,发现缺乏一个全面的基准库是阻碍更深入理解的主要因素。
- 提供一个全面且用户友好的基准库:NoisyGL是第一个针对GLN的全面基准库,它包括17种代表性方法,并在8个常用数据集上进行了评估。这个基准库已经开源,供研究人员使用。
- 突出关键发现和未来机会:NoisyGL的研究人员通过广泛的实验发现了一些关键的见解,这些见解有可能大大推进这个领域的发展。
NoisyGL的出现为标签噪声下的图神经网络研究提供了一个重要的平台,它具有以下优点:
- 公平的比较:NoisyGL的统一实验设置和接口可以确保不同方法之间的公平比较。
- 用户友好:NoisyGL允许用户轻松构建自己的模型或数据集,而不需要太多努力。
- 多维分析:NoisyGL支持多维分析,使研究人员能够探索不同方法的时间效率,并了解图结构对处理标签噪声的影响。
然而,NoisyGL也存在一些局限性,例如它主要关注于同质图,而对异质图的处理能力有限。此外,NoisyGL目前只包括有限的GLN方法,未来可以考虑包括更多的方法来获得更全面的理解。