【AI系统】AI系统架构的组成
本文概述了AI系统的组成，从AI训练与推理框架、AI编译与计算架构到AI硬件与体系结构，详细介绍了各层的功能与技术细节。同时，探讨了AI系统生态的广泛领域，包括核心系统软硬件、AI算法和框架以及更广泛的生态组成部分，强调了在模型训练、推理、安全与隐私等方面的技术挑战与解决方案。
内部干货 | 基于华为昇腾910B算力卡的大模型部署和调优-课程讲义
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
IO神器blktrace使用介绍
## 前言
1. blktrace的作者正是block io的maintainer，开发此工具，可以更好的追踪IO的过程。
2. blktrace 结合btt可以统计一个IO是在调度队列停留的时间长，还是在硬件上消耗的时间长，利用这个工具可以协助分析和优化问题。
## blktrace的原理
一个I/O请求的处理过程，可以梳理为这样一张简单的图：
![](http://image