人工智能平台PAI

阿里云的人工智能平台PAI，作为一站式的机器学习和深度学习平台，对DPO算法提供了全面的技术支持。无论是开发者还是企业客户，都可以通过PAI-QuickStart轻松实现大语言模型的DPO对齐微调。本文以阿里云最近推出的开源大型语言模型Qwen2（通义千问2）系列为例，介绍如何在PAI-QuickStart实现Qwen2的DPO算法对齐微调。

阿里云的人工智能平台PAI，作为一站式的机器学习和深度学习平台，对Qwen2模型系列提供了全面的技术支持。无论是开发者还是企业客户，都可以通过PAI-QuickStart轻松实现Qwen2系列模型的微调、评测和快速部署。

EasyAnimate是人工智能平台PAI自主研发的DiT-based视频生成框架，它提供了完整的高清长视频生成解决方案，包括视频数据预处理、VAE训练、DiT训练、模型推理和模型评测等。可以使用EasyAnimate进行任意风格视频模型的训练和推理，还可以在预训练模型的基础上，通过少量图片的LoRA微调来改变生成视频的风格。

阿里云机器学习平台PAI开发的Pytorch训练加速框架PAI-TorchAcc已接入最新开源的大语言模型 OLMo。在保证模型效果和易用性的前提下，PAI-TorchAcc相对 PyTorch 性能在 OLMo 1B 上加速比达到 1.64X，在 OLMo 7B 上加速比达到 1.52X。本文分析了 PAI-TorchAcc 的性能收益来源。

在《PAI可信AI解决方案》会议中，分享了安全、可信、隐私增强的企业级AI。会议围绕三方面展开：首先通过三个案例介绍生活和技术层面的挑战；其次阐述构建AI的关键要素；最后介绍阿里云PAI的安全功能及未来展望，确保数据、算法和模型的安全与合规，提供全方位的可信AI解决方案。

本文深入解读了大数据与AI联合场景下的技术，重点探讨了大语言模型、多模态模型训练及应用数据处理。文章首先分析了算法、算力和数据在大模型训练中的重要性，强调数据采集、标注和质量控制的关键作用。接着介绍了PAI平台上的端到端数据处理套件，涵盖预训练、有监督微调和偏好对齐的数据处理流程，以及数据合成和蒸馏技术的应用。最后展望了未来在多模态处理、性能优化和行业解决方案方面的扩展方向。

阿里云推出的AI购物助手解决方案，采用模块化架构，涵盖智能对话引擎、商品知识图谱和个性化推荐引擎。评测显示其在智能咨询问答、个性化推荐和多模态交互方面表现出色，准确率高且响应迅速。改进建议包括提升复杂问题理解、简化推荐过程及优化话术。总体评价认为该方案技术先进，应用效果好，能显著提升电商购物体验并降低运营成本。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向医疗场景的大模型 RAG 检索增强解决方案。

本文介绍了如何将Python Flask应用快速部署到阿里云PAI EAS，并通过API对外提供服务。示例代码包括`web.py`和`demo.py`两个文件，展示了基本的Flask应用和跨文件导入功能。最后，通过阿里云控制台完成服务部署和调用。

设置gbdt 、xgboost等算法的样本和特征的采样率

12月10日，NeurIPS 2024在温哥华开幕，阿里云PAI团队论文《PertEval: Unveiling Real Knowledge Capacity of LLMs with Knowledge-Invariant Perturbations》入选Spotlight，PAI团队还进行了“可信AI的技术解读与最佳实践”主题演讲，展示AI工程化平台产品能力。

作为一名扎根在HR培训领域多年的“老兵”，我越来越清晰地感受到，企业内训的本质其实是为企业持续“造血”。无论是基础岗的新人培训、技能岗的操作规范培训，还是面向技术中坚力量的高阶技术研讨，抑或是管理层的战略思维提升课，内训的价值都是在帮助企业内部提升能力水平，进而提高组织生产力，减少对外部资源的依赖。更为重要的是，在当前AI、大模型、Embodied Intelligence等新兴技术快速迭代的背景下，企业必须不断为人才升级赋能，才能在市场竞争中保持领先。

本方案为您介绍，如何使用人工智能平台 PAI 构建面向金融场景的大模型 RAG 检索增强解决方案。

将神经网络内容，增加物理条件限制

在科技迅猛发展的今天，AI已渗透至多个领域，包括歌词创作。《妙笔生词智能写歌词软件》通过强大算法与海量数据，为新手提供创作指导，快速生成多风格歌词片段，降低创作门槛，节省时间。尽管如此，优秀作品仍需创作者的情感与思考，AI辅助下的歌词创作正逐渐变得更为便捷。

本文详细介绍在 PAI 平台使用 DistilQwen2 蒸馏小模型的全链路最佳实践。

基于OCR技术的纸质档案电子化方案，通过先进的AI能力平台，实现手写、打印、复古文档等多格式高效识别与智能归档。该方案大幅提升了档案管理效率，确保数据安全与隐私，为档案馆提供全面、智能化的电子化管理解决方案。

阿里云人工智能平台 PAI 与复旦大学王鹏教授团队合作，在自然语言处理顶级会议 EMNLP 2024 上发表论文《Distilling Instruction-following Abilities of Large Language Models with Task-aware Curriculum Planning》。

阿里云人工智能平台 PAI 与华南理工大学金连文教授团队合作，在自然语言处理顶会 EMNLP 2024 上发表论文《VideoCLIP-XL: Advancing Long Description Understanding for Video CLIP Models》。VideoCLIP-XL 模型，有效地提升了对视频的长文本描述的理解能力。

阿里云人工智能平台 PAI 的多篇论文在 EMNLP2024 上入选。论文成果是阿里云与华南理工大学金连文教授团队、复旦大学王鹏教授团队共同研发。EMNLP 是人工智能自然语言处理领域的顶级国际会议，聚焦于自然语言处理技术在各个应用场景的学术研究，尤其重视自然语言处理的实证研究。该会议曾推动了预训练语言模型、文本挖掘、对话系统、机器翻译等自然语言处理领域的核心创新，在学术和工业界都有巨大的影响力。此次入选标志着阿里云人工智能平台 PAI 在自然语言处理和多模态算法能力方面研究获得了学术界认可。

DistilQwen2 是基于 Qwen2大模型，通过知识蒸馏进行指令遵循效果增强的、参数较小的语言模型。本文将介绍DistilQwen2 的技术原理、效果评测，以及DistilQwen2 在阿里云人工智能平台 PAI 上的使用方法，和在各开源社区的下载使用教程。

这是一个名为“小绿叶技术博客扫段攻击拦截系统”的Bash脚本，用于监控和拦截TCP攻击。通过抓取网络数据包监控可疑IP，并利用iptables和firewalld防火墙规则对这些IP进行拦截。同时，该系统能够查询数据库中的白名单，确保合法IP不受影响。此外，它还具备日志记录功能，以便于后续分析和审计。

本文详细介绍了如何在普通个人电脑上微调GPT2大模型，包括环境配置、代码实现和技术要点。通过合理设置训练参数和优化代码，即使在无独显的设备上也能完成微调，耗时约14小时。文章还涵盖了GPT-2的简介、数据集处理、自定义进度条回调等内容，适合初学者参考。

本文探讨了基于人类反馈的强化学习（RLHF）方法的优缺点。作者指出，虽然RLHF能够使模型更好地满足用户需求，但也存在缺乏多样性、创新不足、偏好固化和难以适应动态变化等问题。文章通过具体实验和示例代码，详细解析了RLHF的工作原理，并强调了其在实际应用中的潜在风险。

本文介绍了如何从零开始部署一套RAG应用，并将其集成到移动端，如钉钉群聊中。应用场景包括客服系统、智能助手、教育辅导和医疗咨询等。通过阿里云PAI和AppFlow，您可以轻松部署大模型RAG应用，并实现智能化的问答服务。具体步骤包括准备向量检索库、训练私有模型、部署RAG对话应用、创建钉钉应用及配置机器人等。

LLaMA Factory 是一款开源低代码大模型微调框架，集成了业界最广泛使用的微调技术，支持通过 Web UI 界面零代码微调大模型，目前已经成为开源社区内最受欢迎的微调框架，GitHub 星标超过3万。本次活动通过 PAI×LLaMA Factory 微调 Qwen2-VL 模型，快速搭建文旅领域知识问答机器人，期待看到您与 AI 导游的创意对话！

本文将为您介绍如何在 PAI 大语言模型评测平台，基于裁判员模型，评价开源模型或者微调后模型的性能。该功能限时免费，欢迎使用。

阿里云人工智能平台 PAI 团队与华南理工大学合作在国际多媒体顶级会议 ACM MM2024 上发表 VICTORIA 算法，这是一种面向 StableDiffusion 的多目标图像编辑算法。VICTORIA 通过文本依存关系来修正图像编辑过程中的交叉注意力图，从而确保关系对象的一致性，支持用户通过修改描述性提示一次性编辑多个目标。

《YOLO11魔术师专栏》专栏介绍

随着人工智能和大数据技术的发展，互联网算法在内容推荐、用户画像等领域日益重要，但也带来了安全风险和合规挑战。国家互联网信息办公室为此发布了《互联网算法备案管理规定》，要求具有舆论属性或社会动员能力的互联网信息服务提供者进行算法备案，以确保算法透明性和合规性，维护网络健康秩序。唯安创远AI合规专家将解析备案的必要性、流程及其对企业的影响，帮助企业顺利完成备案。

本文根据2024云栖大会实录整理而成，演讲信息如下： 演讲人：林伟 | 阿里云智能集团研究员、阿里云人工智能平台 PAI 负责人；黄博远｜阿里云智能集团资深产品专家、阿里云人工智能平台 PAI 产品负责人 活动：2024 云栖大会 - AI Infra 核心技术专场、人工智能平台 PAI 年度发布专场

Pai-Megatron-Patch（https://github.com/alibaba/Pai-Megatron-Patch）是阿里云人工智能平台PAI研发的围绕Nvidia MegatronLM的大模型开发配套工具，旨在帮助开发者快速上手大模型，完成大模型（LLM）相关的高效分布式训练，有监督指令微调，下游任务评估等大模型开发链路。最近一年来，我们持续打磨Pai-Megatron-Patch的性能和扩展功能，围绕Megatron-Core（以下简称MCore）进一步打造大模型训练加速技术生态，推出更多的的训练加速、显存优化特性。

近期，大模型推理社区（vLLM，SGLang 等）普遍开始关注框架运行时开销，提出了多步调度、异步输出处理、独立 API Server 进程等工作，来分摊或掩盖部分开销。 在我们的实际业务场景中，也观察到高额的框架开销严重限制了系统吞吐，特别是在高并发（>1k）场景下，运行时开销已经接近或高于 GPU 运行时间，导致资源严重浪费和性能下降。为此，BladeLLM 设计并实现了基于 Python 的纯异步 LLM 推理架构 -- TAG (Totally Asynchronous Generator) ，以最大程度提高 GPU 利用率，提升引擎性能。

本文将深入探讨 NanoFlow 的关键思路和核心技术，分析 NanoFlow 与 阿里云人工智能平台 PAI 在实际工作中应用的潜力。

2024年是AI应用的元年，以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮，经历了虚拟机时代和云原生时代，正在全面拥抱以大模型为核心的 AI Native 阶段，推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。 9月20日，2024云栖大会上，阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级，为 AI Native 应用大爆发提供坚实的平台支撑。

在云栖大会上，通过PAI Artlab的ComfyUI，轻松生成个性化数字影像。只需几个简单步骤，即可将你的肖像融入大会经典场景，创造独特回忆。快来加入我们，让PAI Artlab为你的云栖之行增添一抹亮色！

本方案以通义千问2（Qwen2）大语言模型为基础，为您介绍大语言模型数据增强和蒸馏解决方案的完整开发流程。

PAI-ChatLearn现已全面开源，助力用户快速、高效的Alignment训练体验。借助ChatLearn，用户可全身心投入于模型设计与效果优化，无需分心于底层技术细节。ChatLearn将承担起资源调度、数据传输、参数同步、分布式运行管理以及确保系统高效稳定运作的重任，为用户提供一站式解决方案。

阿里云计算平台大数据基础工程技术团队主导，与浙江大学合作的论文《Cluster-Wide Task Slowdown Detection in Cloud System》被数据挖掘领域顶会ACM SIGKDD2024接收。论文从新的视角分析云计算平台集群健康状态，实现了基于神经网络的集群作业整体变慢异常定向检测，与SOTA异常检测算法相比平均提升F1 score 5.3%。

文叙述的 Big Data for AI 最佳实践，基于阿里云人工智能平台PAI、MaxCompute自研分布式计算框架MaxFrame、Data-Juicer等产品和工具，实现了大模型数据采集、清洗、增强及合成大模型数据的全链路，解决企业级大模型开发应用场景的数据处理难题。

阿里云计算平台大数据基础工程技术团队主导，与浙江大学合作的论文《Cluster-Wide Task Slowdown Detection in Cloud System》被数据挖掘领域顶会ACM SIGKDD2024接收

【8月更文挑战第8天】借助PAI-EAS一键部署ChatGLM，并应用LangChain集成外部数据

2024年5月，关于推荐模型自动编译优化的论文《RECom: A Compiler Approach to Accelerate Recommendation Model Inference with Massive Embedding Columns》在系统领域顶会ASPLOS 2024上中选并进行了展示，并被授予了Distinguished Artifact Award 荣誉，以表彰RECom的易用性与结果的可复现性。

生成式AI（GenAI）革新了企业架构，催生新数据集成模式与最佳实践。借助Apache Kafka与Apache Flink，企业能高效处理大规模实时数据，连接各类数据库与分析平台。Kafka作为核心组件，支持GenAI应用如服务台自动化、聊天机器人及内容审核。结合大型语言模型（LLM）、检索增强生成（RAG）与向量数据库，Kafka与Flink共同打造强大数据流处理能力，克服GenAI挑战，如昂贵训练成本、数据时效性与准确性。通过语义搜索与RAG设计模式，确保LLM生成内容可靠无误。