XDMA与FPGA：高效数据传输的艺术
XDMA（Xilinx's DMA/Bridge Subsystem for PCI Express）是Xilinx推出的一种高效数据传输引擎，专为PCIe总线设计。通过封装PCIe协议，XDMA提供简化的API接口，支持Scatter-Gather DMA和Block DMA模式，特别适用于高性能计算、实时视频处理和大数据分析等领域的数据传输。XDMA通过链表传输和高效的PCIe接口，减少了主机CPU的负担，提高了数据传输效率。AXI4和AXI4-Stream接口进一步增强了XDMA与FPGA的协同工作能力，使其在现代计算系统中发挥重要作用。
【AI系统】计算图的优化策略
本文深入探讨了计算图的优化策略，包括算子替换、数据类型转换、存储优化等，旨在提升模型性能和资源利用效率。特别介绍了Flash Attention算法，通过分块计算和重算策略优化Transformer模型的注意力机制，显著减少了内存访问次数，提升了计算效率。此外，文章还讨论了内存优化技术，如Inplace operation和Memory sharing，进一步减少内存消耗，提高计算性能。
数智化赋能龙港中医院，让医疗服务有了“人情味”
截至2023年底，中国拥有18133家县级医院，承担了全国33.8%的诊疗服务量，覆盖约9亿居民，是解决“看病难、看病贵”问题的关键力量。然而，信息化滞后、系统互通性差等问题限制了其发展。温州龙港中医院通过引入华为新一代医院数据中心解决方案，实现了高效的数据管理和资源利用，大幅提升了诊疗效率和服务质量，成为县级医院数智化转型的典范。
Ascend上的FlashAttention实现
FlashAttention是优化Transformer模型计算效率和内存使用的技术，通过减少存储访问开销提升性能。它采用Tiling、Recomputation、分块SoftMax等策略，减少HBM访问，加速计算，并在昇腾AI处理器上实现了显著的性能提升。
探索操作系统的心脏：内核与用户空间的交互
在数字世界的每一次点击和命令背后，隐藏着一个复杂而精妙的操作系统世界。本文将带你走进这个世界的核心，揭示内核与用户空间的神秘交互。通过深入浅出的解释和直观的代码示例，我们将一起理解操作系统如何协调硬件资源，管理进程和内存，以及提供文件系统服务。无论你是编程新手还是资深开发者，这篇文章都将为你打开一扇通往操作系统深层原理的大门。让我们一起开始这段旅程，探索那些支撑我们日常数字生活的技术基石吧！
探索操作系统核心：从进程管理到内存分配
本文将深入探讨操作系统的两大核心功能——进程管理和内存分配。通过直观的代码示例，我们将了解如何在操作系统中实现这些基本功能，以及它们如何影响系统性能和稳定性。文章旨在为读者提供一个清晰的操作系统内部工作机制视角，同时强调理解和掌握这些概念对于任何软件开发人员的重要性。
【AI系统】AI 芯片的思考
为了应对数据中心算力需求，谷歌自2014年起研发TPU，专为深度学习设计的硬件加速器。TPU加速了谷歌的机器学习任务，尤其在大模型训练和推理方面表现突出。大卫·帕特森教授加入谷歌TPU团队后，分享了TPU发展历程及技术心得，强调了AI模型对内存和算力需求的快速增长、模型结构的快速演变、生产部署中的多租户需求、SRAM与DRAM的权衡、内存优化的重要性、DSA的专业与灵活性、半导体供应链选型、编译器优化及AI应用兼容性等方面的关键挑战与解决方案。
【AI系统】寒武纪介绍
中科寒武纪科技股份有限公司，成立于2016年，致力于打造云边端一体、软硬件协同的智能芯片产品和平台化基础系统软件。寒武纪的产品线涵盖了终端智能处理器IP、边缘端和云端智能加速卡，形成了从1A处理器核到思元系列MLU100、MLU200、MLU300的完整布局。其核心技术包括高效的MLU Core架构和Cambricon Neuware软件栈，支持高性能AI计算，助力机器更好地理解和服务人类。
【AI系统】GPU 工作原理
本文详细解析了AI计算体系中的GPU工作原理，重点介绍了GPU与CPU在架构上的差异，强调了GPU在并行计算方面的优势。文章通过$AX+Y$的例子，展示了GPU如何通过并行和并发提高计算效率，并深入探讨了GPU的缓存机制及线程原理，解释了GPU如何通过大量线程和Warp来掩盖延迟问题，实现高效计算。
【AI系统】CPU 计算时延
CPU（中央处理器）是计算机系统的核心，其计算时延（从指令发出到完成所需时间）对系统性能至关重要。本文探讨了CPU计算时延的组成，包括指令提取、解码、执行、存储器访问及写回时延，以及影响时延的因素，如时钟频率、流水线技术、并行处理、缓存命中率和内存带宽。通过优化这些方面，可以有效降低计算时延，提升系统性能。文中还通过具体示例解析了时延产生的原因，强调了内存时延对计算速度的关键影响。