揭秘！CIPU最新秘密武器–弹性RDMA的技术解析与实践
弹性RDMA（Elastic Remote Direct Memory Access，简称eRDMA），是阿里云自研的云上弹性RDMA网络，底层链路复用VPC网络，采用全栈自研的拥塞控制CC（Congestion Control ）算法，兼具传统RDMA网络高吞吐、低延迟特性，同时支持秒级的大规模RDMA组网。基于弹性RDMA，开发者可以将HPC应用软件部署在云上，获取成本更低、弹性更好的高性能应用集群；也可以将VPC网络替换成弹性RDMA网络，加速应用性能。
llama factory 从数据集起步 跑通 qwen系列开源生成式大模型 微调
`dataset_info.json` 文件用于管理 llama factory 中的所有数据集，支持 `alpaca` 和 `sharegpt` 格式。通过配置此文件，可以轻松添加自定义数据集。数据集的相关参数包括数据源地址、数据集格式、样本数量等，支持 Hugging Face 和 ModelScope 两个平台的数据集仓库。针对不同格式的数据集，提供了详细的配置示例，如 `alpaca` 格式的指令监督微调数据集、偏好数据集等，以及 `sharegpt` 格式的多模态数据集等。今天我们通过自定义数据集的方式来进行qwen2.5_14B_instruct模型进行微调
内部干货 | 基于华为昇腾910B算力卡的大模型部署和调优-课程讲义
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
告别服务器繁忙，云上部署DeepSeek
本文以 DeepSeek-R1-Distill-Qwen-32B-FP8 为例，向您介绍如何在GPU实例上使用容器来部署量化的 DeepSeek-R1 蒸馏模型。
阿里云gpu云服务器收费价格，热门实例简介和最新按量、1个月、1年收费标准参考
在阿里云所有gpu云服务器实例规格中，计算型gn5、gn6i、gn6v、gn7i和最新推出的gn8is、gn8v-tee等实例规格是其中比较热门的gpu云服务器实例。阿里云gpu云服务器最新租用价格参考，适合AI推理/训练的16核60G+1张A10 24G显存（gn7i-c16g1.4xlarge），按量优惠价1.9/小时起。本文为大家展示阿里云gpu云服务器中gn5、gn6i等热门实例规格的主要性能和适用场景以及最新按量和1个月、1年收费标准，以供参考。
阿里云轻量、ECS、GPU 云服务器报价汇总：按时长计费清单 + 业务匹配教程
阿里云轻量应用服务器 、 阿里云ECS云服务器 、EGS 阿里云GPU云服务器 服务器三层算力产品，定价、计费模式、业务适配场景差异明显。轻量实例入门成本极低，面向个人开发者与小型测试场景；ECS具备完整企业云原生能力，适配正式线上业务；GPU实例算力强大，单价更高，专门服务AI推理训练、渲染、高性能计算场景。
