游客nzxqk2keol6fs_个人页

2025年06月

• 06.24 14:30:27
  发表了文章 2025-06-24 14:30:27

  了解集合通信与模型并行策略

  了解集合通信基础概念及常见的集合通信原语；以及大模型并行策略：包括数据并行、流水并行、张量并行和专家并行。

  
• 06.23 14:53:18
  发表了文章 2025-06-23 14:53:18

  离线推理性能问题分析

  传统模型迁移到昇腾设备上出现了性能问题，介绍性能问题的定位方法和解决方案，重点介绍了性能问题的定位定界方法。
• 06.23 14:19:45
  发表了文章 2025-06-23 14:19:45

  离线推理精度问题分析

  传统模型迁移到昇腾设备上出现了精度问题，介绍精度问题的定位方法和解决方案，重点介绍了精度问题的定位定界方法。

  
• 06.20 16:52:31
  发表了文章 2025-06-20 16:52:31

  离线推理全流程&模型调优

  本指南详细介绍小模型推理方案，涵盖从模型转换到推理的全流程。包括ATC架构转换、ModelZoo-PyTorch指导文档、ONNX导出与优化、离线及在线推理等环节。特别针对Chinese_CLIP模型，提供上机操作指导，如模型支持度分析、onnx-sim简化、msit surgeon优化、AOE自动调优和模型压缩等步骤。

  
• 06.20 15:38:14
  发表了文章 2025-06-20 15:38:14

  搞定昇腾软件版本配套问题

  开发者拿到一个裸机环境，如800I A2/800T A2, 或Atlas 800 3000推理服务器（里面插了Iduo卡），需要用户根据OS版本去安装配套的固件驱动、Mind系列软件等。

  
• 06.20 10:28:57
  发表了文章 2025-06-20 10:28:57

  基于llama-factory的昇腾实战

  基于llama-factory的昇腾全流程实践，包括环境的安装、推理部署、微调、动态Lora和对话。