122_集群管理：Slurm配置 - 优化大规模训练调度
在2025年，大规模语言模型（LLM）的训练已经进入到超大规模时代，模型参数量达到数千亿甚至万亿级别，训练过程需要动用数百甚至数千个GPU/TPU。在这种情况下，高效的集群管理系统成为训练成功的关键基础设施。Slurm（Simple Linux Utility for Resource Management）作为目前最流行的开源作业调度系统，广泛应用于科研机构和大型科技公司的超级计算集群中。
78_资源监控：NVIDIA-SMI进阶
在大语言模型（LLM）训练和推理过程中，GPU资源的高效监控和管理至关重要。随着模型规模的不断增长和计算需求的提升，如何精确监控GPU利用率、及时发现性能瓶颈并进行优化，成为AI研究人员和工程师面临的重要挑战。NVIDIA-SMI作为NVIDIA官方提供的GPU监控工具，提供了丰富的功能来监控和管理GPU资源。本文将深入探讨NVIDIA-SMI的进阶使用方法，以及如何利用其与其他工具结合构建高效的GPU利用率可视化监控系统。