浅析GPU通信技术（上）-GPUDirect P2P
1. 背景
GPU在高性能计算和深度学习加速中扮演着非常重要的角色， GPU的强大的并行计算能力，大大提升了运算性能。随着运算数据量的不断攀升，GPU间需要大量的交换数据，GPU通信性能成为了非常重要的指标。
大语言模型工作原理和工作流程
大语言模型（Large Language Models，简称LLMs）是一类具有大量参数的深度学习模型，它们在自然语言处理（NLP）领域中，通过处理大量的文本数据来学习语言模式、语法和语义，从而理解和生成人类语言。
推荐场景GPU优化的探索与实践：CUDA Graph与多流并行的比较与分析
RTP 系统(即 Rank Service)，是一个面向搜索和推荐的 ranking 需求，支持多种模型的在线 inference 服务，是阿里智能引擎团队沉淀多年的技术产品。今年，团队在推荐场景的GPU性能优化上又做了新尝试——在RTP上集成了Multi Stream，改变了TensorFlow的单流机制，让多流的执行并行，作为增加GPU并行度的另一种选择。本文详细介绍与比较了CUDA Graph与多流并行这两个方案，以及团队的实践成果与心得。