人工智能平台PAI

阿里云的人工智能平台PAI，作为一站式的机器学习和深度学习平台，对DPO算法提供了全面的技术支持。无论是开发者还是企业客户，都可以通过PAI-QuickStart轻松实现大语言模型的DPO对齐微调。本文以阿里云最近推出的开源大型语言模型Qwen2（通义千问2）系列为例，介绍如何在PAI-QuickStart实现Qwen2的DPO算法对齐微调。

阿里云的人工智能平台PAI，作为一站式的机器学习和深度学习平台，对Qwen2模型系列提供了全面的技术支持。无论是开发者还是企业客户，都可以通过PAI-QuickStart轻松实现Qwen2系列模型的微调、评测和快速部署。

EasyAnimate是人工智能平台PAI自主研发的DiT-based视频生成框架，它提供了完整的高清长视频生成解决方案，包括视频数据预处理、VAE训练、DiT训练、模型推理和模型评测等。可以使用EasyAnimate进行任意风格视频模型的训练和推理，还可以在预训练模型的基础上，通过少量图片的LoRA微调来改变生成视频的风格。

阿里云机器学习平台PAI开发的Pytorch训练加速框架PAI-TorchAcc已接入最新开源的大语言模型 OLMo。在保证模型效果和易用性的前提下，PAI-TorchAcc相对 PyTorch 性能在 OLMo 1B 上加速比达到 1.64X，在 OLMo 7B 上加速比达到 1.52X。本文分析了 PAI-TorchAcc 的性能收益来源。

国产AI神器Deepseek，本地离线使用教程！

本文将为您带来“PAI+DeepSeek，30分钟打造支持连网搜索+私有知识库的智能应用”最佳实践，大模型能力、联网能力再加持 RAG 方案，实现 DeepSeek 系列模型与现有业务的高效融合。

深度探索 DeepSeek：5 分钟部署，零成本体验强大推理能力

上海AI实验室周伯文团队的最新研究显示，7B版本的DeepSeek模型在性能上超越了R1满血版。该成果强调了计算最优Test-Time Scaling的重要性，并提出了一种创新的“弱到强”优化监督机制的研究思路，区别于传统的“从强到弱”策略。这一方法不仅提升了模型性能，还为未来AI研究提供了新方向。

本脚本适用于Ubuntu 22.04，主要功能包括编译安装Docker和安装DeepSeek模型。首先通过Apt源配置安装Docker，确保网络稳定（建议使用VPN）。接着下载并配置Docker二进制文件，创建Docker用户组并设置守护进程。随后拉取Debian 12镜像，安装系统必备工具，配置Ollama模型管理器，并最终部署和运行DeepSeek模型，提供API接口进行交互测试。

DeepSeek 系列模型以其卓越性能在全球范围内备受瞩目，多次评测中表现优异，性能接近甚至超越国际顶尖闭源模型（如OpenAI的GPT-4、Claude-3.5-Sonnet等）。企业用户和开发者可使用 PAI 平台一键部署 DeepSeek 系列模型，实现 DeepSeek 系列模型与现有业务的高效融合。

设置任务执行最长时间

本文介绍了阿里云 PAI 团队近期发布的 BladeDISC++项目，探讨在动态场景下如何优化深度学习训练任务的显存峰值，主要内容包括以下三个部分：Dynamic Shape 场景下显存优化的背景与挑战；BladeDISC++的创新解决方案；Llama2 模型的实验数据分析

PAI产品下训练（train）模型任务的费用细节

检索增强生成模型结合了信息检索与生成式人工智能的优点，从而在特定场景下提供更为精准和相关的答案。以人工智能平台 PAI 为例，为您介绍在云上使用一站式白盒化大模型应用开发平台 PAI-LangStudio 构建面向法律场景的大模型 RAG 检索增强解决方案，应用构建更简便，开发环境更直观。此外，PAI 平台同样发布了面向医疗、金融和教育领域的 RAG 解决方案。

本文介绍了如何在阿里云 PAI 平台上一键部署 DeepSeek-V3 模型，通过这一过程，用户能够轻松地利用 DeepSeek-V3 模型进行实时交互和 API 推理，从而加速 AI 应用的开发和部署。

PAI-FeatureStore 是阿里云提供的特征管理平台，适用于风控应用中的离线和实时特征管理。通过MaxCompute定义和设计特征表，利用PAI-FeatureStore SDK进行数据摄取与预处理，并通过定时任务批量计算离线特征，同步至在线存储系统如FeatureDB或Hologres。对于实时特征，借助Flink等流处理引擎即时分析并写入在线存储，确保特征时效性。模型推理方面，支持EasyRec Processor和PAI-EAS推理服务，实现高效且灵活的风险控制特征管理，促进系统迭代优化。

本文介绍了图像与视频特征提取技术在人工智能和计算机视觉中的应用，涵盖图像质量评分、人脸属性分析、年龄分析、图像多标签打标、图文视频动态分类打标、视频质量评分及视频分类打标。通过深度学习模型如CNN和RNN，这些技术能从海量数据中挖掘有价值信息，为图像分类、目标检测、视频推荐等场景提供支持，提升分析精度与效率。

本文讲述了如何在 PAI-DSW 中集成和利用 Fluid 框架，以及通过动态挂载技术实现 OSS 等存储介质上数据集的快速接入和管理。通过案例演示，进一步展示了动态挂载功能的实际应用效果和优势。

模型恢复出错，是特征参数不一致问题

本文介绍了企业推荐系统的关键技术和解决方案。主要内容分为四部分：1) 推荐系统面临的挑战，如数据治理和算法优化；2) 提高开发效率的解决方案，通过配置化和自动化减少重复工作；3) 高性能推荐算法和推理服务，包括GPU优化和特征组合；4) 高效特征管理平台PAI FeatureStore，支持离线和实时特征处理。文中还提到了EasyRecTorch框架，用于加速训练和推理，并分享了如何通过这些工具提升推荐系统的性能和降低成本。

本文介绍了通用AI时代下的新训练方法及PAI平台的优化。随着大模型时代的到来，算力需求激增，硬件和网络通信成为瓶颈。PAI平台通过自动容错、3D健康检测等技术确保训练稳定性；通过资源配额、智能调度等提高性价比；并推出PAI-TorchAcc和PAI-ChatLearn两大引擎，分别实现高效训练加速和灵活的对齐训练，显著提升训练性能与效果。这些改进解决了大规模AI训练中的关键问题，提升了效率和稳定性。

本次分享主题为“AI推理新纪元，PAI全球化模型推理服务的创新与实践”，由阿里云高级产品经理李林杨主讲。内容涵盖生成式AI时代推理服务的变化与挑战、play IM核心引擎的优势及ES专属网关的应用。通过LM智能路由、多模态异步生成等技术，PAI平台实现了30%以上的成本降低和显著性能提升，确保全球客户的业务稳定运行并支持异地容灾，目前已覆盖16个地域，拥有10万张显卡的推理集群。

本次分享由阿里云智能集团产品专家高慧玲主讲，聚焦AI开发新范式及PAI模型构建平台的升级。分享分为四个部分，围绕“人人可用”和“面向生产”两大核心理念展开。通过降低AI工程化门槛、提供一站式全链路服务，PAI平台致力于帮助企业和开发者更高效地实现AI应用。案例展示中，介绍了多模态模型微调在文旅场景的应用，展示了如何快速复现并利用AI解决实际问题。最终目标是让AI技术更普及，赋能各行业，推动社会进步。

PAI平台针对企业用户在AI应用中的复杂需求，提供了全面的企业级能力。涵盖权限管理、资源分配、任务调度与资产管理等模块，确保高效利用AI资源。通过API和SDK支持定制化开发，满足不同企业的特殊需求。典型案例中，某顶尖高校基于PAI构建了融合AI与HPC的科研计算平台，实现了作业、运营及运维三大中心的高效管理，成功服务于校内外多个场景。

本文介绍了AI平台在大语言模型时代的新能力和发展趋势。面对推理请求异构化、持续训练需求及安全可信挑战，平台推出了一系列优化措施，包括LLM智能路由、多模态内容生成服务、serverless部署模式等，以提高资源利用效率和降低使用门槛。同时，发布了训推一体调度引擎、竞价任务等功能，助力企业更灵活地进行训练与推理任务管理。此外，PAI开发平台提供了丰富的工具链和最佳实践，支持从数据处理到模型部署的全流程开发，确保企业和开发者能高效、安全地构建AI应用，享受AI带来的红利。

阿里云PAI-部署Qwen2-VL-72B踩坑实录

在《PAI可信AI解决方案》会议中，分享了安全、可信、隐私增强的企业级AI。会议围绕三方面展开：首先通过三个案例介绍生活和技术层面的挑战；其次阐述构建AI的关键要素；最后介绍阿里云PAI的安全功能及未来展望，确保数据、算法和模型的安全与合规，提供全方位的可信AI解决方案。

本文深入解读了大数据与AI联合场景下的技术，重点探讨了大语言模型、多模态模型训练及应用数据处理。文章首先分析了算法、算力和数据在大模型训练中的重要性，强调数据采集、标注和质量控制的关键作用。接着介绍了PAI平台上的端到端数据处理套件，涵盖预训练、有监督微调和偏好对齐的数据处理流程，以及数据合成和蒸馏技术的应用。最后展望了未来在多模态处理、性能优化和行业解决方案方面的扩展方向。

阿里云推出的AI购物助手解决方案，采用模块化架构，涵盖智能对话引擎、商品知识图谱和个性化推荐引擎。评测显示其在智能咨询问答、个性化推荐和多模态交互方面表现出色，准确率高且响应迅速。改进建议包括提升复杂问题理解、简化推荐过程及优化话术。总体评价认为该方案技术先进，应用效果好，能显著提升电商购物体验并降低运营成本。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向医疗场景的大模型 RAG 检索增强解决方案。

本文介绍了如何将Python Flask应用快速部署到阿里云PAI EAS，并通过API对外提供服务。示例代码包括`web.py`和`demo.py`两个文件，展示了基本的Flask应用和跨文件导入功能。最后，通过阿里云控制台完成服务部署和调用。

设置gbdt 、xgboost等算法的样本和特征的采样率

12月10日，NeurIPS 2024在温哥华开幕，阿里云PAI团队论文《PertEval: Unveiling Real Knowledge Capacity of LLMs with Knowledge-Invariant Perturbations》入选Spotlight，PAI团队还进行了“可信AI的技术解读与最佳实践”主题演讲，展示AI工程化平台产品能力。

作为一名扎根在HR培训领域多年的“老兵”，我越来越清晰地感受到，企业内训的本质其实是为企业持续“造血”。无论是基础岗的新人培训、技能岗的操作规范培训，还是面向技术中坚力量的高阶技术研讨，抑或是管理层的战略思维提升课，内训的价值都是在帮助企业内部提升能力水平，进而提高组织生产力，减少对外部资源的依赖。更为重要的是，在当前AI、大模型、Embodied Intelligence等新兴技术快速迭代的背景下，企业必须不断为人才升级赋能，才能在市场竞争中保持领先。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向金融场景的大模型 RAG 检索增强解决方案。

将神经网络内容，增加物理条件限制

在科技迅猛发展的今天，AI已渗透至多个领域，包括歌词创作。《妙笔生词智能写歌词软件》通过强大算法与海量数据，为新手提供创作指导，快速生成多风格歌词片段，降低创作门槛，节省时间。尽管如此，优秀作品仍需创作者的情感与思考，AI辅助下的歌词创作正逐渐变得更为便捷。

本文详细介绍在 PAI 平台使用 DistilQwen2 蒸馏小模型的全链路最佳实践。

基于OCR技术的纸质档案电子化方案，通过先进的AI能力平台，实现手写、打印、复古文档等多格式高效识别与智能归档。该方案大幅提升了档案管理效率，确保数据安全与隐私，为档案馆提供全面、智能化的电子化管理解决方案。

阿里云人工智能平台 PAI 与复旦大学王鹏教授团队合作，在自然语言处理顶级会议 EMNLP 2024 上发表论文《Distilling Instruction-following Abilities of Large Language Models with Task-aware Curriculum Planning》。

阿里云人工智能平台 PAI 与华南理工大学金连文教授团队合作，在自然语言处理顶会 EMNLP 2024 上发表论文《VideoCLIP-XL: Advancing Long Description Understanding for Video CLIP Models》。VideoCLIP-XL 模型，有效地提升了对视频的长文本描述的理解能力。

阿里云人工智能平台 PAI 的多篇论文在 EMNLP2024 上入选。论文成果是阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发。EMNLP 是人工智能自然语言处理领域的顶级国际会议，聚焦于自然语言处理技术在各个应用场景的学术研究，尤其重视自然语言处理的实证研究。该会议曾推动了预训练语言模型、文本挖掘、对话系统、机器翻译等自然语言处理领域的核心创新，在学术和工业界都有巨大的影响力。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。

DistilQwen2 是基于 Qwen2大模型，通过知识蒸馏进行指令遵循效果增强的、参数较小的语言模型。本文将介绍DistilQwen2 的技术原理、效果评测，以及DistilQwen2 在阿里云人工智能平台 PAI 上的使用方法，和在各开源社区的下载使用教程。

这是一个名为“小绿叶技术博客扫段攻击拦截系统”的Bash脚本，用于监控和拦截TCP攻击。通过抓取网络数据包监控可疑IP，并利用iptables和firewalld防火墙规则对这些IP进行拦截。同时，该系统能够查询数据库中的白名单，确保合法IP不受影响。此外，它还具备日志记录功能，以便于后续分析和审计。

本文详细介绍了如何在普通个人电脑上微调GPT2大模型，包括环境配置、代码实现和技术要点。通过合理设置训练参数和优化代码，即使在无独显的设备上也能完成微调，耗时约14小时。文章还涵盖了GPT-2的简介、数据集处理、自定义进度条回调等内容，适合初学者参考。

本文探讨了基于人类反馈的强化学习（RLHF）方法的优缺点。作者指出，虽然RLHF能够使模型更好地满足用户需求，但也存在缺乏多样性、创新不足、偏好固化和难以适应动态变化等问题。文章通过具体实验和示例代码，详细解析了RLHF的工作原理，并强调了其在实际应用中的潜在风险。