【AI系统】算子手工优化
本文深入探讨了手写算子调度的关键因素及高性能算子库的介绍，通过计算分析指标和 RoofLine 模型评估计算与访存瓶颈，提出了循环、指令、存储三大优化策略，并介绍了 TVM 和 Triton 两种 DSL 开发算子的方法及其在实际应用中的表现。
【AI系统】AI 编译器后端优化
AI编译器采用多层架构，首先通过前端优化将不同框架的模型转化为统一的Graph IR并进行计算图级别的优化，如图算融合、内存优化等。接着，通过后端优化，将优化后的计算图转换为TensorIR，针对单个算子进行具体实现优化，包括循环优化、算子融合等，以适应不同的硬件架构，最终生成高效执行的机器代码。后端优化是提升算子性能的关键步骤，涉及复杂的优化策略和技术。
【AI系统】死代码消除
死代码消除是一种编译器优化技术，旨在移除程序中不会被执行的代码，提升程序效率和资源利用。通过分析控制流图，识别并删除不可达操作和无用操作，减少不必要的计算。在传统编译器中，主要通过深度优先搜索和条件分支优化实现；而在AI编译器中，则通过对计算图的分析，删除无用或不可达的计算节点，优化模型性能。
AscendC从入门到精通系列（一）初步感知AscendC
Ascend C是CANN推出的一种编程语言，专为算子开发设计，支持C/C++标准，旨在提高开发效率与运行性能。通过Ascend C，开发者能在昇腾AI处理器上高效实现自定义算法。本文档介绍了如何使用Ascend C编写和运行一个简单的“Hello World”程序，包括核函数的编写、主程序调用及CMake配置，展示了Ascend C的基本使用流程。
Ascend C的编程模型
Ascend C采用SPMD编程模型，实现多核并行计算。通过将数据切分为多个分片，分配给不同的计算核心（或称为block）并行处理，每个核心根据自身的block_idx执行相同代码但处理不同的数据分片，从而提高计算效率。此模型支持高效的数据并行处理，适用于大规模数据计算任务。
【AI系统】公共表达式消除原理
公共子表达式消除（CSE）是编译器优化技术，旨在通过识别并消除重复计算的表达式，减少计算量，提升程序执行效率。CSE分为局部和全局两种，局部CSE仅在单个基本块内操作，而全局CSE跨越多个基本块。技术手段包括局部值编号和缓式代码移动等，广泛应用于传统编译器及AI编译器中，有效简化计算图，降低计算成本。
【AI系统】常量折叠原理
常量折叠是一种编译器优化技术，通过在编译阶段计算常量表达式，用结果替换原表达式，减少运行时计算。传统编译器在编译期间识别并计算常量表达式，如 Python 中 `day_sec = 24*60*60` 被优化为 `day_sec = 86400`。AI 编译器则在计算图中进行类似优化，如 TensorFlow 通过分析计算图节点，提前计算确定结果的节点，提高执行效率。
转载：【AI系统】AI编译器前瞻
本文基于《The Deep Learning Compiler: A Comprehensive Survey》调研，对比了TVM、nGraph、TC、Glow和XLA五个热门AI编译器，介绍了它们的特点与优势。文章还探讨了AI编译器面临的挑战，如动态Shape问题、Python编译静态化、硬件性能优化等，并展望了AI编译器的未来发展方向，包括自动并行、自动微分和Kernel自动生成等技术。