面向AI的服务器计算互连的创新探索
面向AI的服务器计算互连创新探索主要涵盖三个方向：Scale UP互连、AI高性能网卡及CIPU技术。Scale UP互连通过ALink系统实现极致性能，支持大规模模型训练，满足智算集群需求。AI高性能网卡针对大规模GPU通信和存储挑战，自研EIC网卡提供400G带宽和RDMA卸载加速，优化网络传输。CIPU作为云基础设施核心，支持虚拟化、存储与网络资源池化，提升资源利用率和稳定性，未来将扩展至2*800G带宽，全面覆盖阿里云业务需求。这些技术共同推动了AI计算的高效互联与性能突破。
大模型训练推理优化(5)： FlexLink —— NVLink 带宽无损提升27%
本期我们将介绍蚂蚁集团ASystem团队在大模型通信优化上的新工作FlexLink，旨在通过动态聚合多路通信（NVLink，PCIe，RDMA），在H800等典型硬件上将典型通信算子如（AllReduce, All Gather）吞吐提升最高达27%，尤其适合大模型长序列推理（Prefill阶段），及训练等通信密集的带宽bound场景。方案对精度无影响。
K8S下一代设备管理机制：DRA
背景Kubernetes从1.8开始引入了Device Plugin机制，用于第三方设备厂商以插件化的方式将设备资源（GPU、RDMA、FPGA、InfiniBand等）接入Kubernetes集群中。用户无需修改Kubernetes代码，只需在集群中以DaemonSet方式部署设备厂商提供的插件，然后在Pod中申明使用该资源的使用量，容器在启动成功后，便可在容器中发现该设备。然而，随着Kuber
