新手入门：DGL在昇腾上的安装问题
本文介绍了在aarch64架构和Python 3.10环境下安装DGL（Deep Graph Library）的过程。首先通过`uname -a`确认硬件架构，接着使用`python --version`检查Python版本。为确保兼容性，从指定链接下载适合的whl包或通过pip安装dgl。过程中遇到了torchdata版本不兼容的问题，通过降级torchdata至0.7.1版本解决。此外，针对NPU芯片适配，重新安装了与CANN 8.0.RC2兼容的torch和torch_npu组件。最终成功导入dgl包并准备进行模型训练验证。
内部干货 | 基于华为昇腾910B算力卡的大模型部署和调优-课程讲义
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
昇腾910-PyTorch 实现 Alexnet图像分类
本文介绍了在昇腾平台上使用PyTorch实现AlexNet对CIFAR-10数据集进行图像分类的实战。内容涵盖AlexNet的创新点、网络架构解析及代码实现，包括ReLU激活函数、Dropout、重叠最大池化等技术的应用。实验中详细展示了如何构建模型、加载数据集、定义训练和测试模块，并通过60个epoch的训练验证模型性能。
昇腾910-PyTorch 实现 GoogleNet图像分类
本实验基于PyTorch在昇腾平台上实现GoogleNet模型，针对CIFAR-10数据集进行图像分类。内容涵盖GoogleNet的创新点（如Inception模块、1x1卷积、全局平均池化等）、网络架构解析及代码实战分析。通过详细讲解模型搭建、数据预处理、训练与测试过程，帮助读者掌握如何使用经典CNN模型进行高效图像分类。实验中还介绍了辅助分类器、梯度传播优化等技术细节，并提供了完整的训练和测试代码示例。
企业内训｜基于华为昇腾910B算力卡的大模型部署和调优-上海某央企智算中心
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
深入剖析Transformer架构中的多头注意力机制
多头注意力机制（Multi-Head Attention）是Transformer模型中的核心组件，通过并行运行多个独立的注意力机制，捕捉输入序列中不同子空间的语义关联。每个“头”独立处理Query、Key和Value矩阵，经过缩放点积注意力运算后，所有头的输出被拼接并通过线性层融合，最终生成更全面的表示。多头注意力不仅增强了模型对复杂依赖关系的理解，还在自然语言处理任务如机器翻译和阅读理解中表现出色。通过多头自注意力机制，模型在同一序列内部进行多角度的注意力计算，进一步提升了表达能力和泛化性能。
LossVal：一种集成于损失函数的高效数据价值评估方法
LossVal是一种创新的机器学习方法，通过在损失函数中引入实例级权重，直接在训练过程中评估数据点的重要性，避免了传统方法中反复重训练模型的高计算成本。该方法适用于回归和分类任务，利用最优传输距离优化权重，确保模型更多地从高质量数据中学习。实验表明，LossVal在噪声样本检测和高价值数据点移除等任务上表现优异，具有更低的时间复杂度和更稳定的性能。论文及代码已开源，为数据价值评估提供了高效的新途径。
sam模型迁移昇腾训练loss不收敛问题的解决办法
在将SAM模型迁移到昇腾平台时，遇到了精度问题。具体表现为NPU训练的loss图从一开始就未收敛，而GPU则正常收敛。通过使用Ascend开源仓的msprobe工具进行精度对比，发现NPU丢失了image_embedding的梯度，原因在于torch_npu版本与PyTorch不匹配，导致`repeat_interleave_backward_tensor`函数调用失败。最终通过选择与PyTorch配套的torch_npu版本解决了问题，loss图恢复正常。