# 人工智能平台 PAI #
1
关注
3906内容
TAG：BladeLLM 的纯异步推理架构
近期，大模型推理社区（vLLM，SGLang 等）普遍开始关注框架运行时开销，提出了多步调度、异步输出处理、独立 API Server 进程等工作，来分摊或掩盖部分开销。
在我们的实际业务场景中，也观察到高额的框架开销严重限制了系统吞吐，特别是在高并发（>1k）场景下，运行时开销已经接近或高于 GPU 运行时间，导致资源严重浪费和性能下降。为此，BladeLLM 设计并实现了基于 Python 的纯异步 LLM 推理架构 -- TAG (Totally Asynchronous Generator) ，以最大程度提高 GPU 利用率，提升引擎性能。
【Paper Reading】结合 NanoFlow 研究，优化大语言模型服务效率的探索
本文将深入探讨 NanoFlow 的关键思路和核心技术，分析 NanoFlow 与 阿里云人工智能平台 PAI 在实际工作中应用的潜力。
AI Native平台，跨越AI应用从创新到生产的鸿沟
2024年是AI应用的元年，以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮，经历了虚拟机时代和云原生时代，正在全面拥抱以大模型为核心的 AI Native 阶段，推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。
9月20日，2024云栖大会上，阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级，为 AI Native 应用大爆发提供坚实的平台支撑。
“我在云栖大会等你”—来PAI Artlab定格你的云栖记忆！
在云栖大会上，通过PAI Artlab的ComfyUI，轻松生成个性化数字影像。只需几个简单步骤，即可将你的肖像融入大会经典场景，创造独特回忆。快来加入我们，让PAI Artlab为你的云栖之行增添一抹亮色！
大语言模型数据增强与模型蒸馏解决方案
本方案以通义千问2（Qwen2）大语言模型为基础，为您介绍大语言模型数据增强和蒸馏解决方案的完整开发流程。
阿里PAI-ChatLearn：大规模 Alignment高效训练框架正式开源
PAI-ChatLearn现已全面开源，助力用户快速、高效的Alignment训练体验。借助ChatLearn，用户可全身心投入于模型设计与效果优化，无需分心于底层技术细节。ChatLearn将承担起资源调度、数据传输、参数同步、分布式运行管理以及确保系统高效稳定运作的重任，为用户提供一站式解决方案。
【KDD2024】面向集群整体作业运行变慢的异常检测
阿里云计算平台大数据基础工程技术团队主导，与浙江大学合作的论文《Cluster-Wide Task Slowdown Detection in Cloud System》被数据挖掘领域顶会ACM SIGKDD2024接收。论文从新的视角分析云计算平台集群健康状态，实现了基于神经网络的集群作业整体变慢异常定向检测，与SOTA异常检测算法相比平均提升F1 score 5.3%。
Big Data for AI实践：面向AI大模型开发和应用的大规模数据处理套件
文叙述的 Big Data for AI 最佳实践，基于阿里云人工智能平台PAI、MaxCompute自研分布式计算框架MaxFrame、Data-Juicer等产品和工具，实现了大模型数据采集、清洗、增强及合成大模型数据的全链路，解决企业级大模型开发应用场景的数据处理难题。
【ASPLOS2024】RECom：通过编译器技术加速推荐模型推理，论文中选并获得荣誉奖项！
2024年5月，关于推荐模型自动编译优化的论文《RECom: A Compiler Approach to Accelerate Recommendation Model Inference with Massive Embedding Columns》在系统领域顶会ASPLOS 2024上中选并进行了展示，并被授予了Distinguished Artifact Award 荣誉，以表彰RECom的易用性与结果的可复现性。
Apache Kafka + 向量数据库 + LLM = 实时 GenAI
生成式AI（GenAI）革新了企业架构，催生新数据集成模式与最佳实践。借助Apache Kafka与Apache Flink，企业能高效处理大规模实时数据，连接各类数据库与分析平台。Kafka作为核心组件，支持GenAI应用如服务台自动化、聊天机器人及内容审核。结合大型语言模型（LLM）、检索增强生成（RAG）与向量数据库，Kafka与Flink共同打造强大数据流处理能力，克服GenAI挑战，如昂贵训练成本、数据时效性与准确性。通过语义搜索与RAG设计模式，确保LLM生成内容可靠无误。
免费试用