人工智能平台PAI

Pai-Megatron-Patch 是一款由阿里云人工智能平台PAI 研发的围绕英伟达 Megatron 的大模型训练配套工具，旨在帮助开发者快速上手大模型，打通大模型相关的高效分布式训练、有监督指令微调、下游任务评估等大模型开发链路。本文以 Qwen2-VL 为例，从易用性和训练性能优化两个方面介绍基于 Megatron 构建的 Pai-Megatron-Patch 多模态大模型训练的关键技术

3月6日阿里云发布并开源了全新推理模型通义千问 QwQ-32B，在一系列权威基准测试中，千问QwQ-32B模型表现异常出色，几乎完全超越了OpenAI-o1-mini，性能比肩Deepseek-R1，且部署成本大幅降低。并集成了与智能体 Agent 相关的能力，够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。阿里云人工智能平台 PAI-Model Gallery 现已经支持一键部署 QwQ-32B，本实践带您部署体验专属 QwQ-32B模型服务。

阿里云视频生成大模型万相2.1（Wan）重磅开源！Wan2.1 在处理复杂运动、还原真实物理规律、提升影视质感以及优化指令遵循方面具有显著的优势，轻松实现高质量的视频生成。同时，万相还支持业内领先的中英文文字特效生成，满足广告、短视频等领域的创意需求。阿里云人工智能平台 PAI-Model Gallery 现已经支持一键部署阿里万相重磅开源的4个模型，可获得您的专属阿里万相服务。

为解决大语言模型在资源有限环境下的高计算成本和复杂性问题，阿里云推出了基于 Qwen2.5 的轻量化模型系列 DistilQwen2.5。该模型通过双层蒸馏框架、数据优化策略及参数融合技术，在保留性能的同时显著降低计算资源消耗。本文提供了详细的使用教程和代码示例，方便用户在 PAI 平台上调用。

DeepSeek-AI 开源的 FlashMLA 是一个优化多层注意力机制的解码内核，显著提升大语言模型的长序列处理和推理效率。本文介绍了如何在 PAI 平台上安装并使用 FlashMLA 部署 DeepSeek-V2-Lite-Chat 模型。通过优化后的 FlashMLA，实现了约 16% 的性能提升。

本文将为您带来“DeepSeek R1+Qwen 大模型蒸馏和微调训练”最佳实践。阿里云 PAI 平台提供了围绕 DeepSeek 模型的最佳实践，涵盖快速部署、应用搭建、蒸馏和微调等环节，帮助开发者高效利用计算资源，使用 Model Gallery 功能，轻松完成部署与微调任务。

检索增强生成模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。以人工智能平台 PAI 为例，为您介绍在云上使用一站式白盒化大模型应用开发平台 PAI-LangStudio 构建面向教育场景的大模型 RAG 检索增强解决方案，应用构建更简便，开发环境更直观。此外，PAI 平台同样发布了面向医疗、金融和法律领域的 RAG 解决方案。

本文将为您带来“基于 PAI-RAG 构建 DeepSeek 联网搜索+企业级知识库助手服务”解决方案，PAI-RAG 提供全面的生态能力，支持一键部署至企业微信、微信公众号、钉钉群聊机器人等，助力打造多场景的AI助理，全面提升业务效率与用户体验。

简介：本文探讨光学字符识别（OCR）技术与大语言模型（LLM）结合带来的革新。传统OCR在处理模糊文本、复杂排版时存在局限，而LLM的语义理解、结构解析和多模态处理能力恰好弥补这些不足。文中通过代码实例展示了两者融合在错误校正、文档解析、多语言处理、语义检索及流程革新上的五大优势，并以财务报表解析为例，说明了该技术组合在实际应用中的高效性。此外，文章也展望了未来的技术发展趋势，包括多模态架构、小样本学习和边缘计算部署等方向，预示着文本处理技术正迈向智能认知的新时代。（240字）

Step-Video-T2V 是一个最先进的 (SoTA) 文本转视频预训练模型，具有 300 亿个参数，能够生成高达 204 帧的视频；Step-Audio 则是行业内首个产品级的开源语音交互模型，通过结合 130B 参数的大语言模型，语音识别模型与语音合成模型，实现了端到端的文本、语音对话生成，能和用户自然地进行高质量对话。PAI Model Gallery 已支持阶跃星辰最新发布的 Step-Video-T2V 文生视频模型与 Step-Audio-Chat 大语言模型的一键部署，本文将详细介绍具体操作步骤。

国产AI神器Deepseek，本地离线使用教程！

本文将为您带来“PAI+DeepSeek，30分钟打造支持连网搜索+私有知识库的智能应用”最佳实践，大模型能力、联网能力再加持 RAG 方案，实现 DeepSeek 系列模型与现有业务的高效融合。

深度探索 DeepSeek：5 分钟部署，零成本体验强大推理能力

上海AI实验室周伯文团队的最新研究显示，7B版本的DeepSeek模型在性能上超越了R1满血版。该成果强调了计算最优Test-Time Scaling的重要性，并提出了一种创新的“弱到强”优化监督机制的研究思路，区别于传统的“从强到弱”策略。这一方法不仅提升了模型性能，还为未来AI研究提供了新方向。

本脚本适用于Ubuntu 22.04，主要功能包括编译安装Docker和安装DeepSeek模型。首先通过Apt源配置安装Docker，确保网络稳定（建议使用VPN）。接着下载并配置Docker二进制文件，创建Docker用户组并设置守护进程。随后拉取Debian 12镜像，安装系统必备工具，配置Ollama模型管理器，并最终部署和运行DeepSeek模型，提供API接口进行交互测试。

DeepSeek 系列模型以其卓越性能在全球范围内备受瞩目，多次评测中表现优异，性能接近甚至超越国际顶尖闭源模型（如OpenAI的GPT-4、Claude-3.5-Sonnet等）。企业用户和开发者可使用 PAI 平台一键部署 DeepSeek 系列模型，实现 DeepSeek 系列模型与现有业务的高效融合。

设置任务执行最长时间

本文介绍了阿里云 PAI 团队近期发布的 BladeDISC++项目，探讨在动态场景下如何优化深度学习训练任务的显存峰值，主要内容包括以下三个部分：Dynamic Shape 场景下显存优化的背景与挑战；BladeDISC++的创新解决方案；Llama2 模型的实验数据分析

PAI产品下训练（train）模型任务的费用细节

检索增强生成模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。以人工智能平台 PAI 为例，为您介绍在云上使用一站式白盒化大模型应用开发平台 PAI-LangStudio 构建面向法律场景的大模型 RAG 检索增强解决方案，应用构建更简便，开发环境更直观。此外，PAI 平台同样发布了面向医疗、金融和教育领域的 RAG 解决方案。

本文介绍了如何在阿里云 PAI 平台上一键部署 DeepSeek-V3 模型，通过这一过程，用户能够轻松地利用 DeepSeek-V3 模型进行实时交互和 API 推理，从而加速 AI 应用的开发和部署。

PAI-FeatureStore 是阿里云提供的特征管理平台，适用于风控应用中的离线和实时特征管理。通过MaxCompute定义和设计特征表，利用PAI-FeatureStore SDK进行数据摄取与预处理，并通过定时任务批量计算离线特征，同步至在线存储系统如FeatureDB或Hologres。对于实时特征，借助Flink等流处理引擎即时分析并写入在线存储，确保特征时效性。模型推理方面，支持EasyRec Processor和PAI-EAS推理服务，实现高效且灵活的风险控制特征管理，促进系统迭代优化。

本文介绍了图像与视频特征提取技术在人工智能和计算机视觉中的应用，涵盖图像质量评分、人脸属性分析、年龄分析、图像多标签打标、图文视频动态分类打标、视频质量评分及视频分类打标。通过深度学习模型如CNN和RNN，这些技术能从海量数据中挖掘有价值信息，为图像分类、目标检测、视频推荐等场景提供支持，提升分析精度与效率。

本文讲述了如何在 PAI-DSW 中集成和利用 Fluid 框架，以及通过动态挂载技术实现 OSS 等存储介质上数据集的快速接入和管理。通过案例演示，进一步展示了动态挂载功能的实际应用效果和优势。

模型恢复出错，是特征参数不一致问题

本文介绍了企业推荐系统的关键技术和解决方案。主要内容分为四部分：1) 推荐系统面临的挑战，如数据治理和算法优化；2) 提高开发效率的解决方案，通过配置化和自动化减少重复工作；3) 高性能推荐算法和推理服务，包括GPU优化和特征组合；4) 高效特征管理平台PAI FeatureStore，支持离线和实时特征处理。文中还提到了EasyRecTorch框架，用于加速训练和推理，并分享了如何通过这些工具提升推荐系统的性能和降低成本。

本文介绍了通用AI时代下的新训练方法及PAI平台的优化。随着大模型时代的到来，算力需求激增，硬件和网络通信成为瓶颈。PAI平台通过自动容错、3D健康检测等技术确保训练稳定性；通过资源配额、智能调度等提高性价比；并推出PAI-TorchAcc和PAI-ChatLearn两大引擎，分别实现高效训练加速和灵活的对齐训练，显著提升训练性能与效果。这些改进解决了大规模AI训练中的关键问题，提升了效率和稳定性。

本次分享主题为“AI推理新纪元，PAI全球化模型推理服务的创新与实践”，由阿里云高级产品经理李林杨主讲。内容涵盖生成式AI时代推理服务的变化与挑战、play IM核心引擎的优势及ES专属网关的应用。通过LM智能路由、多模态异步生成等技术，PAI平台实现了30%以上的成本降低和显著性能提升，确保全球客户的业务稳定运行并支持异地容灾，目前已覆盖16个地域，拥有10万张显卡的推理集群。

本次分享由阿里云智能集团产品专家高慧玲主讲，聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分，围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务，PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中，介绍了多模态模型微调在文旅场景的应用，展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及，赋能各行业，推动社会进步。

PAI平台针对企业用户在AI应用中的复杂需求，提供了全面的企业级能力。涵盖权限管理、资源分配、任务调度与资产管理等模块，确保高效利用AI资源。通过API和SDK支持定制化开发，满足不同企业的特殊需求。典型案例中，某顶尖高校基于PAI构建了融合AI与HPC的科研计算平台，实现了作业、运营及运维三大中心的高效管理，成功服务于校内外多个场景。

本文介绍了AI平台在大语言模型时代的新能力和发展趋势。面对推理请求异构化、持续训练需求及安全可信挑战，平台推出了一系列优化措施，包括LLM智能路由、多模态内容生成服务、serverless部署模式等，以提高资源利用效率和降低使用门槛。同时，发布了训推一体调度引擎、竞价任务等功能，助力企业更灵活地进行训练与推理任务管理。此外，PAI开发平台提供了丰富的工具链和最佳实践，支持从数据处理到模型部署的全流程开发，确保企业和开发者能高效、安全地构建AI应用，享受AI带来的红利。

阿里云PAI-部署Qwen2-VL-72B踩坑实录

在《PAI可信AI解决方案》会议中，分享了安全、可信、隐私增强的企业级AI。会议围绕三方面展开：首先通过三个案例介绍生活和技术层面的挑战；其次阐述构建AI的关键要素；最后介绍阿里云PAI的安全功能及未来展望，确保数据、算法和模型的安全与合规，提供全方位的可信AI解决方案。

本文深入解读了大数据与AI联合场景下的技术，重点探讨了大语言模型、多模态模型训练及应用数据处理。文章首先分析了算法、算力和数据在大模型训练中的重要性，强调数据采集、标注和质量控制的关键作用。接着介绍了PAI平台上的端到端数据处理套件，涵盖预训练、有监督微调和偏好对齐的数据处理流程，以及数据合成和蒸馏技术的应用。最后展望了未来在多模态处理、性能优化和行业解决方案方面的扩展方向。

阿里云推出的AI购物助手解决方案，采用模块化架构，涵盖智能对话引擎、商品知识图谱和个性化推荐引擎。评测显示其在智能咨询问答、个性化推荐和多模态交互方面表现出色，准确率高且响应迅速。改进建议包括提升复杂问题理解、简化推荐过程及优化话术。总体评价认为该方案技术先进，应用效果好，能显著提升电商购物体验并降低运营成本。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向医疗场景的大模型 RAG 检索增强解决方案。

本文介绍了如何将Python Flask应用快速部署到阿里云PAI EAS，并通过API对外提供服务。示例代码包括`web.py`和`demo.py`两个文件，展示了基本的Flask应用和跨文件导入功能。最后，通过阿里云控制台完成服务部署和调用。

设置gbdt 、xgboost等算法的样本和特征的采样率

12月10日，NeurIPS 2024在温哥华开幕，阿里云PAI团队论文《PertEval: Unveiling Real Knowledge Capacity of LLMs with Knowledge-Invariant Perturbations》入选Spotlight，PAI团队还进行了“可信AI的技术解读与最佳实践”主题演讲，展示AI工程化平台产品能力。

作为一名扎根在HR培训领域多年的“老兵”，我越来越清晰地感受到，企业内训的本质其实是为企业持续“造血”。无论是基础岗的新人培训、技能岗的操作规范培训，还是面向技术中坚力量的高阶技术研讨，抑或是管理层的战略思维提升课，内训的价值都是在帮助企业内部提升能力水平，进而提高组织生产力，减少对外部资源的依赖。更为重要的是，在当前AI、大模型、Embodied Intelligence等新兴技术快速迭代的背景下，企业必须不断为人才升级赋能，才能在市场竞争中保持领先。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向金融场景的大模型 RAG 检索增强解决方案。

将神经网络内容，增加物理条件限制

在科技迅猛发展的今天，AI已渗透至多个领域，包括歌词创作。《妙笔生词智能写歌词软件》通过强大算法与海量数据，为新手提供创作指导，快速生成多风格歌词片段，降低创作门槛，节省时间。尽管如此，优秀作品仍需创作者的情感与思考，AI辅助下的歌词创作正逐渐变得更为便捷。

本文详细介绍在 PAI 平台使用 DistilQwen2 蒸馏小模型的全链路最佳实践。

基于OCR技术的纸质档案电子化方案，通过先进的AI能力平台，实现手写、打印、复古文档等多格式高效识别与智能归档。该方案大幅提升了档案管理效率，确保数据安全与隐私，为档案馆提供全面、智能化的电子化管理解决方案。