DeepSeek模型MOE结构代码详解
其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 @ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码！没想到如此简单！》。
什么才是“真AI相机”
从去年开始，AI（人工智能）概念在手机行业大行其道，并且与消费者最关注的拍照功能结合起来。一时间，各大手机厂商不约而同地发布了多款号称搭载了“AI相机”的智能手机，造成了手机市场鱼龙混杂的局面。
【PyTorch基础教程15】循环神经网络RNN
全连接被称为Dense层或者Deep层。输入数据样本的不同特征。
CNN用了权重共享的概念，而全连接层的参数量是巨大的。我们可以使用RNN解决如下图（天气预报预测）这种带有序列模式的数据（如NLP、天气、股市金融数据等），并且使用权重共享的概念来减少参数量。
阿里云GPU服务器多少钱一小时？2023阿里云GPU服务器详细介绍及价格表
阿里云GPU服务器租用价格表包括包年包月价格、一个小时收费以及学生GPU服务器租用费用，阿里云GPU计算卡包括NVIDIA V100计算卡、T4计算卡、A10计算卡和A100计算卡，GPU云服务器gn6i可享受3折优惠，阿里云百科分享阿里云GPU服务器租用价格表、GPU一个小时多少钱以及学生GPU服务器收费价格表：
sam模型迁移昇腾训练loss不收敛问题的解决办法
在将SAM模型迁移到昇腾平台时，遇到了精度问题。具体表现为NPU训练的loss图从一开始就未收敛，而GPU则正常收敛。通过使用Ascend开源仓的msprobe工具进行精度对比，发现NPU丢失了image_embedding的梯度，原因在于torch_npu版本与PyTorch不匹配，导致`repeat_interleave_backward_tensor`函数调用失败。最终通过选择与PyTorch配套的torch_npu版本解决了问题，loss图恢复正常。
飞桨x昇腾生态适配方案：03_模型训练迁移
本案例以PaddleOCRv4模型为例，详细介绍了将模型迁移到NPU的完整流程。迁移过程中需确保模型功能在新硬件上无误，重点关注偶发性错误及长时间运行时可能出现的问题，并通过日志辅助定位问题。文档涵盖环境搭建、数据集准备、模型配置、训练启动及常见问题排查等内容。例如，通过设置环境变量排查缺失算子，处理Paddle版本兼容性问题，以及解决进程残留等。适合希望将OCR模型部署到NPU的开发者参考。
