# GPU云服务器 #
1
关注
7834内容
【AI系统】GPU 架构回顾（从2018年-2024年）
2018年发布的Turing图灵架构，采用12nm工艺，包含18.6亿个晶体管，大幅提升了PC游戏、专业图形应用及深度学习推理的效率与性能。Turing引入了RT Core和Tensor Core，分别用于实时光线追踪和加速深度学习计算，支持GDDR6内存，显著提升了数据传输速率和效率。此外，Turing架构还支持NVLink 2.0，增强了多GPU协同工作的能力，适用于复杂的图形渲染和深度学习任务。
【AI系统】GPU 架构回顾（从2010年-2017年）
自1999年英伟达发明GPU以来，其技术不断革新。本文概述了从2010年至2024年间，英伟达GPU的九代架构演变，包括费米、开普勒、麦克斯韦、帕斯卡、伏特、图灵、安培、赫柏和布莱克韦尔。这些架构不仅在游戏性能上取得显著提升，还在AI、HPC、自动驾驶等领域发挥了重要作用。CUDA平台的持续发展，以及Tensor Core、NVLink等技术的迭代，巩固了英伟达在计算领域的领导地位。
【AI系统】GPU 架构与 CUDA 关系
本文介绍了英伟达GPU硬件基础概念，重点解析了A100 GPU架构中的GPC、TPC、SM等组件及其功能。接着深入讲解了CUDA并行计算平台和编程模型，特别是CUDA线程层次结构。最后，文章探讨了如何根据CUDA核心数量、核心频率等因素计算GPU的算力峰值，这对于评估大模型训练的算力需求至关重要。
【AI系统】为什么 GPU 适用于 AI
本文探讨了GPU在AI计算中的应用，从卷积计算的基本原理入手，解析了GPU线程分级与AI计算模式的关系，以及矩阵乘法如何通过GPU编程提升算力利用率。文章还介绍了计算强度的概念，分析了不同数据结构对计算强度的影响，以及GPU中Tensor Core的作用，强调了在不同存储位置下，找到计算强度与矩阵大小的最佳平衡点对AI计算系统优化的重要性。
【AI系统】NPU 基础
近年来，AI技术迅猛发展，催生了NPU和TPU等AI专用处理器，这些处理器专为加速深度学习任务设计，相比传统CPU和GPU，展现出更高效率和性能。本文将介绍AI芯片的概念、技术发展、部署方式及应用场景，涵盖从数据中心到边缘设备的广泛领域，探讨其如何成为AI技术落地的关键推手。
【AI系统】GPU 工作原理
本文详细解析了AI计算体系中的GPU工作原理，重点介绍了GPU与CPU在架构上的差异，强调了GPU在并行计算方面的优势。文章通过$AX+Y$的例子，展示了GPU如何通过并行和并发提高计算效率，并深入探讨了GPU的缓存机制及线程原理，解释了GPU如何通过大量线程和Warp来掩盖延迟问题，实现高效计算。
【AI系统】超异构计算
本文探讨了计算机架构发展的黄金十年，重点介绍了异构计算和超异构计算的概念及其在AI芯片发展中的应用。文章首先回顾了AI芯片发展的三个阶段，随后详细阐述了异构计算的优势和应用场景，如性能飞跃、灵活定制、降低成本和降低功耗。接着，文章分析了超异构计算的出现背景、基本特征及其面临的挑战，包括软件层的复杂性和硬件定义软件与软件定义硬件之间的权衡。最后，展望了超异构计算的未来，强调了跨平台统一计算架构的重要性，以及构建开放生态系统的必要性。
【AI系统】GPU 基础
GPU，即图形处理器，是计算机系统中处理图形和图像的核心组件，从早期的简单图形加速到如今的高性能计算和深度学习加速，GPU 经历了显著的技术革新。本文将介绍 GPU 的发展历程、与 CPU 的区别、在 AI 领域的关键作用及其在游戏、消费电子、自动驾驶等多个领域的广泛应用。
【AI系统】CPU 计算本质
本文深入探讨了CPU计算性能，分析了算力敏感度及技术趋势对CPU性能的影响。文章通过具体数据和实例，解释了算力计算方法、数据加载与计算的平衡点，以及如何通过算力敏感度分析优化性能瓶颈。同时，文章还讨论了服务器、GPU和超级计算机等不同计算平台的性能发展趋势，强调了优化数据传输速率和加载策略的重要性。
【AI系统】AI芯片驱动智能革命
本课程深入解析AI模型设计演进，探讨AI算法如何影响AI芯片设计，涵盖CPU、GPU、FPGA、ASIC等主流AI芯片，旨在全面理解AI系统体系，适应后摩尔定律时代的技术挑战。
免费试用