AI 助理
备案控制台
开发者社区 人工智能 文章 正文

图神经网络 —— 排列不变函数

2023-01-19 168
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 图神经网络 —— 排列不变函数

简单的排列不变函数：

定义：参数的输入顺序不会影响输出的值，如果 f ( a , b ) = f ( b , a ) f(a,b)=f(b,a)f(a,b)=f(b,a)，那么 f ff 函数具有排列不变的性质。

不变函数：均值、求和、最大池化等

sum(a, b) = sum(b, a)
mean(a, b) = mean(b, a)
max(a, b) = max(b, a)

不具备排列不变性质的函数：RNN（LSTM）、做差等，结果与输入顺序有关

sub(a, b) != sub(b, a)
rnn(a, b) != rnn(b, a)


文章标签：
机器学习/深度学习
关键词：
网络函数
神经网络函数
神经网络图
壹佰、
目录
相关文章
游客qeoynko2nmbgk
|
4月前
用MASM32按Time Protocol（RFC868）协议编写网络对时程序中的一些有用的函数代码
用MASM32按Time Protocol（RFC868）协议编写网络对时程序中的一些有用的函数代码
游客qeoynko2nmbgk
62 2
zzy的aly
|
3月前
|
机器学习/深度学习 编解码
深度学习笔记(三):神经网络之九种激活函数Sigmoid、tanh、ReLU、ReLU6、Leaky Relu、ELU、Swish、Mish、Softmax详解
本文介绍了九种常用的神经网络激活函数：Sigmoid、tanh、ReLU、ReLU6、Leaky ReLU、ELU、Swish、Mish和Softmax，包括它们的定义、图像、优缺点以及在深度学习中的应用和代码实现。
zzy的aly
297 0
深度学习笔记(三):神经网络之九种激活函数Sigmoid、tanh、ReLU、ReLU6、Leaky Relu、ELU、Swish、Mish、Softmax详解
小言从不摸鱼
|
3月前
|
机器学习/深度学习 数据可视化 算法
激活函数与神经网络------带你迅速了解sigmoid，tanh，ReLU等激活函数！！！
激活函数与神经网络------带你迅速了解sigmoid，tanh，ReLU等激活函数！！！
小言从不摸鱼
59 0
Deephub
|
7月前
|
机器学习/深度学习 人工智能 自然语言处理
Transformer 能代替图神经网络吗?
Transformer模型的革新性在于其自注意力机制，广泛应用于多种任务，包括非原始设计领域。近期研究专注于Transformer的推理能力，特别是在图神经网络（GNN）上下文中。
Deephub
168 5
楠竹11
|
6月前
|
机器学习/深度学习 搜索推荐 知识图谱
图神经网络加持，突破传统推荐系统局限！北大港大联合提出SelfGNN：有效降低信息过载与数据噪声影响
【7月更文挑战第22天】北大港大联手打造SelfGNN，一种结合图神经网络与自监督学习的推荐系统，专攻信息过载及数据噪声难题。SelfGNN通过短期图捕获实时用户兴趣，利用自增强学习提升模型鲁棒性，实现多时间尺度动态行为建模，大幅优化推荐准确度与时效性。经四大真实数据集测试，SelfGNN在准确性和抗噪能力上超越现有模型。尽管如此，高计算复杂度及对图构建质量的依赖仍是待克服挑战。[详细论文](https://arxiv.org/abs/2405.20878)。
楠竹11
107 5
wljslmz
|
5月前
|
机器学习/深度学习 算法
神经网络中激活函数的重要性
【8月更文挑战第23天】
wljslmz
83 0
小空门123-30335
|
6月前
|
机器学习/深度学习 PyTorch 算法框架/工具
图神经网络是一类用于处理图结构数据的神经网络。与传统的深度学习模型（如卷积神经网络CNN和循环神经网络RNN）不同，
图神经网络是一类用于处理图结构数据的神经网络。与传统的深度学习模型（如卷积神经网络CNN和循环神经网络RNN）不同，
小空门123-30335
134 9
游客wkzdk2qklv76k
|
5月前
|
机器学习/深度学习 Shell 计算机视觉
一文搞懂 卷积神经网络 卷积算子应用举例 池化 激活函数
这篇文章通过案例详细解释了卷积神经网络中的卷积算子应用、池化操作和激活函数，包括如何使用卷积算子进行边缘检测和图像模糊，以及ReLU激活函数如何解决梯度消失问题。
游客wkzdk2qklv76k
96 0
楠竹11
|
6月前
|
机器学习/深度学习
神经网络可能不再需要激活函数？Layer Normalization也具有非线性表达！
【7月更文挑战第14天】研究表明，层归一化（LayerNorm）可能具备非线性表达能力，挑战了神经网络对激活函数的依赖。在LN-Net结构中，仅使用线性层与LayerNorm就能实现复杂分类，其VC维度下界证明了非线性表达。尽管如此，是否能完全替代激活函数及如何有效利用这一特性仍需更多研究。[arXiv:2406.01255]
楠竹11
76 5
简简单单做算法
|
6月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于负相关误差函数的4集成BP神经网络matlab建模与仿真
**算法预览：** 图像显示无水印的2022a版MATLAB运行结果 **软件版本：** MATLAB 2022a **核心代码片段：** 省略展示 **理论概述：** NCL集成BP网络利用负相关提升泛化，结合多个弱模型减少错误关联。通过λ参数控制模型间负相关程度，λ>0增强集成效果，提高预测准确性和系统稳健性。
简简单单做算法
62 6

热门文章

最新文章

  • 1
    阿里云先知安全沙龙(武汉站) - 网络空间安全中的红蓝对抗实践
  • 2
    TCP报文格式全解析：网络小白变高手的必读指南
  • 3
    云原生应用网关进阶：阿里云网络ALB Ingress 全能增强
  • 4
    Linux网络文件系统NFS：配置与管理指南
  • 5
    网络安全视角：从地域到账号的阿里云日志审计实践
  • 6
    什么是零信任模型？如何实施以保证网络安全？
  • 7
    基于AI的网络流量分析：构建智能化运维体系
  • 8
    动态IP代理技术详解及网络性能优化
  • 9
    探索网络模型与协议：从OSI到HTTPs的原理解析
  • 10
    网络不稳定导致HTTP代理频繁掉线的分析
  • 1
    【Python实战】——神经网络识别手写数字（三）
    69
  • 2
    【Python实战】——神经网络识别手写数字（二）
    107
  • 3
    【Python实战】——神经网络识别手写数字（一）
    120
  • 4
    用人工神经网络对混凝土的强度进行建模
    86
  • 5
    LabVIEW利用人工神经网络辅助进行结冰检测
    52
  • 6
    LabVIEW开发基于神经网络的自动汽车制动系统
    62
  • 7
    Python深度学习基于Tensorflow（6）神经网络基础
    73
  • 8
    使用Python实现循环神经网络（RNN）的博客教程
    846
  • 9
    使用Python实现卷积神经网络（CNN）
    651
  • 10
    MATLAB|【免费】概率神经网络的分类预测--基于PNN的变压器故障诊断
    77

    • 相关课程

    更多
  • 云计算工程师解析与实战-网络专家篇（体验版）
  • 云网络白皮书-阿里云网络系列课
  • 企业上云攻略-阿里云网络产品应用系列教程
  • Linux网络进阶 - TCP/IP协议及OSI七层模型
  • 网络管理者必知-2分钟了解新出台的《网络安全法》
  • 神经网络概览及算法详解

    • 相关电子书

    更多
  • Deep Dive：应用交付网络架构设计
  • 基于神经网络的语言合成
  • 机器能理解上下文吗-RNN和LSTM神经网络的原理及应用

    • 相关实验场景

    更多
  • 欧拉图的构造性证明与算法实现
  • 容器的网络入门
  • 容器的自定义网络
  • 容器的共享网络模型
  • 使用阿里云容器服务和容器网络文件系统搭建WordPress网站
    • 下一篇
    阿里云开通OSS存储服务详细流程