对话阿里云吴结生：AI时代，云上高性能计算的创新发展
在阿里云智能集团副总裁，弹性计算产品线负责人、存储产品线负责人 吴结生看来，如今已经有很多行业应用了高性能计算，且高性能计算的负载正呈现出多样化发展的趋势，“当下，很多基础模型的预训练、自动驾驶、生命科学，以及工业制造、半导体芯片等行业和领域都应用了高性能计算。”吴结生指出。
物体检测框架YoloDotNet初体验
【11月更文挑战第3天】YoloDotNet 是一个基于 .Net 平台的物体检测框架，支持多种视觉任务，包括物体检测、分类、OBB 检测、分割和姿态估计。安装过程较为复杂，需要配置 CUDA 和 CUDNN 支持 GPU 加速。代码简洁易用，检测速度快且准确，适用于实时应用。该框架跨平台、开源免费，适合熟悉 .Net 的开发者使用。
阿里云产品十月刊
通义灵码知识库问答功能增强，多款产品能力新升级，详情请点击阿里云产品十月刊
基于NVIDIA A30 加速卡推理部署通义千问-72B-Chat测试过程
本文介绍了基于阿里云通义千问72B大模型（Qwen-72B-Chat）的性能基准测试，包括测试环境准备、模型部署、API测试等内容。测试环境配置为32核128G内存的ECS云主机，配备8块NVIDIA A30 GPU加速卡。软件环境包括Ubuntu 22.04、CUDA 12.4.0、PyTorch 2.4.0等。详细介绍了模型下载、部署命令及常见问题解决方法，并展示了API测试结果和性能分析。
谈谈分布式训练框架DeepSpeed与Megatron
【11月更文挑战第3天】随着深度学习技术的不断发展，大规模模型的训练需求日益增长。为了应对这种需求，分布式训练框架应运而生，其中DeepSpeed和Megatron是两个备受瞩目的框架。本文将深入探讨这两个框架的背景、业务场景、优缺点、主要功能及底层实现逻辑，并提供一个基于Java语言的简单demo例子，帮助读者更好地理解这些技术。