前言
当全球企业加速云化转型，传统运维模式正面临算力爆发时代的严峻挑战。面对海量主机集群、异构操作系统与瞬息万变的业务需求，操作系统控制平台以「AI+自动化」双引擎驱动，突破人机协作的效能天花板。本文将深度拆解阿里云的操作系统控制平台一智能管理中枢，它是如何通过技术架构创新，实现从被动响应到主动预判的运维范式跃迁。
1、准备工作
首先我们要有自己的ECS实例，注意现在操作系统控制平台还只限于以下操作系统使用：
架构操作系统
x86架构 Alibaba Cloud Linux 2/3 CentOS 7.6及以上版本 Anolis OS 8.4以上版本ARM架构 Alibaba Cloud Linux 3
SysOM是操作系统核心管控组件，控制台所有功能都依赖于SysOM组件。所以我们可以找到组件管理，直接安装SysOM组件
稍等片刻，根据提示直接下一步即可成功完成如下图所示：
AI Infra观测
通过AI Infra的GPU Profiling动态注入，能够在不对AI作业产生任何干扰的前提下，实时获取算子、调度和Kernel函数等关键信息。这样的零侵入监控方式确保了AI任务能够高效运行的同时，我们也能够精确地监测到性能波动和潜在的瓶颈问题。AI Infra观测不仅灵活性高、开销低，还能够全面提高AI作业的性能。
2、参数说明
实例ID：选择该账号下已纳管的实例ID。
说明
> 该实例应配备GPU，并正在运行AI作业。
- AI作业ID：与AI作业进程名选择一个填写。同时支持分析多个AI进程，PID之间以,分隔。
- AI作业进程名：与AI作业ID选择一个填写。同时支持分析多个AI进程，进程名之间以,分隔。
- 分析模式：目前只支持Duration模式。
- 分析时长：以毫秒为单位，目前支持1000毫秒～15000毫秒的分析。
再发起AI作业分析之后，控制台会在分析记录页面增加一条分析记录（注意该实例应配备GPU，并正在运行AI作业，否则会报错）
3、CPU/GPU Tracing分析
- 功能：CPU tracing分析通过记录CPU各个核心的执行情况，跟踪每个线程、进程的调度与运行状态，包括每个任务的执行时间、CPU的占用率以及调度等待时间。
作用：帮助发现CPU资源的使用模式、计算密集型任务、线程间的竞争、调度不均等问题。通过对这些信息的分析，能够识别出哪些进程或线程在占用过多的CPU资源，进而优化任务调度和负载分配。- 常见应用：CPU占用过高、进程阻塞、死锁等问题排查。
- GPU Kernel分析
- 功能：GPU tracing分析跟踪和记录GPU计算的执行过程，监控GPU内核的运行状态、内存访问、执行时间、计算资源的分配和使用情况。
作用：能够帮助开发人员了解GPU负载和计算的瓶颈，发现内存访问延迟、计算不均衡等问题，并优化GPU的资源分配和调度策略。
- 常见应用：GPU计算任务性能调优、内存带宽瓶颈分析、GPU核心资源分配优化等。
4、CPU/GPU Tracing分析
- 功能：CPU和GPU tracing的联合分析是指同时跟踪CPU和GPU的运行轨迹，以了解它们在处理AI、机器学习、数据科学等计算密集型任务时如何协同工作。
- 作用：通过对CPU与GPU的同步分析，可以揭示多核CPU与GPU之间的负载分配和协同效率，发现两者之间的数据传输瓶颈、计算资源竞争等问题。
- 常见应用：AI模型训练时的资源瓶颈分析，GPU加速的任务调度与优化。
5、建议与收获
5.1建议
- 利用零侵入监控： 建议在AI任务执行过程中持续启用GPU Profiling动态注入功能，因为它提供了在不干扰作业的情况下，实时获取算子、调度和Kernel函数等信息的能力。这样可以在保证AI作业高效运行的同时，不影响任务的正常执行。
定期进行性能分析： 通过AI Infra的GPU Profiling功能，定期监控AI作业的性能波动。这样可以及时发现潜在的瓶颈问题，从而针对性地优化算法和硬件资源，确保性能稳定。
关注高负载情况： 在高负载场景下，建议特别关注调度和Kernel函数的执行情况。GPU Profiling能够帮助识别潜在的瓶颈区域，从而为优化资源分配和调度策略提供数据支持。
5.2收获
- 精准的性能监测： 通过GPU Profiling动态注入，可以精确监测AI任务中每个算子和Kernel函数的执行情况，获得全面的性能数据。
- 全面提升AI作业性能： 使用GPU Profiling动态注入功能的最大收获是能够全面提升AI作业的性能。通过及时优化资源分配、任务调度和算法调整，能够让AI作业更加高效、稳定，降低延迟，提升整体运算效率。
6、总结
AI Infra观测可以帮助开发者和运维人员准确地监控计算资源的使用情况，理解计算任务的执行细节，发现性能瓶颈，并采取相应的优化措施。通过这种方式，系统的运行效率能够得到显著提升，尤其是在处理计算密集型任务或大规模并行计算时。
这场架构革命的意义远超工具迭代。当控制平台将运维人员从重复劳动中解放，技术团队得以聚焦架构优化与创新实验。正如Linux之父林纳斯·托瓦兹所言：“好的技术是看不见的”，未来操作系统管理将如同电力系统般隐形却不可或缺，在无声中托起数字世界的每一次心跳。
