DL之GCN:GCN算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

简介: DL之GCN:GCN算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略

GCN算法的简介(论文介绍)


     作者在该论文中,强调了Large Kernel的重要性。


Abstract  

      One of recent trends [30, 31, 14] in network architecture  design is stacking small filters (e.g., 1x1 or 3x3) in the  entire network because the stacked small filters is more efficient  than a large kernel, given the same computational  complexity. However, in the field of semantic segmentation,  where we need to perform dense per-pixel prediction,  we find that the large kernel (and effective receptive field)  plays an important role when we have to perform the classification  and localization tasks simultaneously. Following  our design principle, we propose a Global Convolutional  Network to address both the classification and localization  issues for the semantic segmentation. We also suggest a  residual-based boundary refinement to further refine the object  boundaries. Our approach achieves state-of-art performance  on two public benchmarks and significantly outperforms  previous results, 82.2% (vs 80.2%) on PASCAL VOC  2012 dataset and 76.9% (vs 71.8%) on Cityscapes dataset.

      最近网络架构设计的一个趋势是在整个网络中堆叠小过滤器(例如1x1或3x3),因为在相同的计算复杂度下,堆叠小过滤器比大型内核更有效。然而,在语义分割领域,我们需要进行密集的逐像素预测,我们发现,当我们必须同时执行分类和定位任务时,大核(有效接受域)发挥着重要作用。根据我们的设计原则,我们提出了一个全局卷积网络来解决语义分割的分类和定位问题。我们还建议基于残差的边界细化来进一步细化对象边界。我们的方法在两个公共基准上实现了最先进的性能,并显著优于之前的结果,分别是PASCAL VOC 2012数据集的82.2% (vs . 80.2%)和Cityscapes数据集的76.9% (vs . 71.8%)。

Conclusion  

      According to our analysis on classification and segmentation,  we find that large kernels is crucial to relieve the  contradiction between classification and localization. Following  the principle of large-size kernels, we propose the  Global Convolutional Network. The ablation experiments  show that our proposed structures meet a good trade-off  between valid receptive field and the number of parameters,  while achieves good performance. To further refine  the object boundaries, we present a novel Boundary Refinement  block. Qualitatively, our Global Convolutional  Network mainly improve the internal regions while Boundary  Refinement increase performance near boundaries. Our  best model achieves state-of-the-art on two public benchmarks:  PASCAL VOC 2012 (82.2%) and Cityscapes  (76.9%).

      通过对分类和分割的分析,我们发现大内核对于缓解分类和定位之间的矛盾至关重要。根据大内核的原理,我们提出了全球卷积网络。腐蚀实验表明,我们提出的结构在有效接受域和参数之间达到了很好的平衡,同时取得了较好的性能。为了进一步细化对象边界,我们提出了一种新的边界细化块。在质量上,我们的全局卷积网络主要是对内部区域进行改进,而边界细化则提高了边界附近的性能。我们最好的模型达到了最先进的两个公共基准:帕斯卡VOC 2012(82.2%)和城市景观(76.9%)。


论文

Chao Peng, XiangyuZhang, Gang Yu, GuimingLuo, Jian Sun.

Large Kernel Matters ——

Improve Semantic Segmentation by Global Convolutional Network. CVPR 2017.

https://arxiv.org/abs/1703.02719



0、实验结果


1、PASCAL VOC 2012 validation set


image.png


2、PASCAL VOC 2012和ImageNet


standard benchmark:PASCAL VOC 2012 and Cityscapes    标准基准:2012年PASCAL VOC和Cityscapes

ResNet152 (pretrained on ImageNet) as the base model for fine tuning.  ResNet152(在ImageNet上预训练)作为微调的基本模型。

image.png



3、Examples of semantic segmentation results on PASCAL VOC 2012

image.png



4、Examples of semantic segmentation results on Cityscapes

image.png





GCN算法的架构详解


更新……




GCN算法的案例应用


更新……



相关文章
|
5月前
|
机器学习/深度学习 人工智能 缓存
面向边缘通用智能的多大语言模型系统:架构、信任与编排——论文阅读
本文提出面向边缘通用智能的多大语言模型(Multi-LLM)系统,通过协同架构、信任机制与动态编排,突破传统边缘AI的局限。融合合作、竞争与集成三种范式,结合模型压缩、分布式推理与上下文优化技术,实现高效、可靠、低延迟的边缘智能,推动复杂场景下的泛化与自主决策能力。
452 3
面向边缘通用智能的多大语言模型系统:架构、信任与编排——论文阅读
|
6月前
|
数据采集 机器学习/深度学习 搜索推荐
MIT新论文:数据即上限,扩散模型的关键能力来自图像统计规律,而非复杂架构
MIT与丰田研究院研究发现,扩散模型的“局部性”并非源于网络架构的精巧设计,而是自然图像统计规律的产物。通过线性模型仅学习像素相关性,即可复现U-Net般的局部敏感模式,揭示数据本身蕴含生成“魔法”。
265 3
MIT新论文:数据即上限,扩散模型的关键能力来自图像统计规律,而非复杂架构
|
5月前
|
人工智能 JavaScript 前端开发
GenSX (不一样的AI应用框架)架构学习指南
GenSX 是一个基于 TypeScript 的函数式 AI 工作流框架,以“函数组合替代图编排”为核心理念。它通过纯函数组件、自动追踪与断点恢复等特性,让开发者用自然代码构建可追溯、易测试的 LLM 应用。支持多模型集成与插件化扩展,兼具灵活性与工程化优势。
388 6
|
6月前
|
机器学习/深度学习 人工智能 资源调度
MicroNAS:面向MCU的零样本神经架构搜索——论文阅读
MicroNAS是一种专为微控制器单元(MCU)设计的零样本神经架构搜索(NAS)框架,无需训练即可通过理论驱动的性能指标评估网络架构。相比传统NAS方法,其搜索效率提升高达1104倍,同时兼顾精度与硬件效率,适用于边缘计算场景。该框架结合神经切线核(NTK)条件数、线性区域计数及硬件感知延迟模型,实现快速、高效的架构搜索,为资源受限设备上的AI部署提供了新思路。
372 2
MicroNAS:面向MCU的零样本神经架构搜索——论文阅读
|
6月前
|
人工智能 Cloud Native 中间件
划重点|云栖大会「AI 原生应用架构论坛」看点梳理
本场论坛将系统性阐述 AI 原生应用架构的新范式、演进趋势与技术突破,并分享来自真实生产环境下的一线实践经验与思考。
|
6月前
|
机器学习/深度学习 人工智能 vr&ar
H4H:面向AR/VR应用的NPU-CIM异构系统混合卷积-Transformer架构搜索——论文阅读
H4H是一种面向AR/VR应用的混合卷积-Transformer架构,基于NPU-CIM异构系统,通过神经架构搜索实现高效模型设计。该架构结合卷积神经网络(CNN)的局部特征提取与视觉Transformer(ViT)的全局信息处理能力,提升模型性能与效率。通过两阶段增量训练策略,缓解混合模型训练中的梯度冲突问题,并利用异构计算资源优化推理延迟与能耗。实验表明,H4H在相同准确率下显著降低延迟和功耗,为AR/VR设备上的边缘AI推理提供了高效解决方案。
951 0
|
5月前
|
机器学习/深度学习 自然语言处理 算法
48_动态架构模型:NAS在LLM中的应用
大型语言模型(LLM)在自然语言处理领域的突破性进展,很大程度上归功于其庞大的参数量和复杂的网络架构。然而,随着模型规模的不断增长,计算资源消耗、推理延迟和部署成本等问题日益凸显。如何在保持模型性能的同时,优化模型架构以提高效率,成为2025年大模型研究的核心方向之一。神经架构搜索(Neural Architecture Search, NAS)作为一种自动化的网络设计方法,正在为这一挑战提供创新性解决方案。本文将深入探讨NAS技术如何应用于LLM的架构优化,特别是在层数与维度调整方面的最新进展,并通过代码实现展示简单的NAS实验。
|
5月前
|
Cloud Native Serverless API
微服务架构实战指南:从单体应用到云原生的蜕变之路
🌟蒋星熠Jaxonic,代码为舟的星际旅人。深耕微服务架构,擅以DDD拆分服务、构建高可用通信与治理体系。分享从单体到云原生的实战经验,探索技术演进的无限可能。
微服务架构实战指南:从单体应用到云原生的蜕变之路
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。