# 人工智能平台 PAI #
1
关注
4198内容
云上AI推理平台全掌握 (3)：服务接入与全球调度
阿里云人工智能平台 PAI 平台推出的全球化的服务接入矩阵，为 LLM 服务量身打造了专业且灵活的服务接入方案，正重新定义 AI 服务的高可用接入标准——从单地域 VPC 安全隔离到跨洲际毫秒级调度，让客户的推理服务在任何网络环境下都能实现「接入即最优」。
云上AI推理平台全掌握 (4)：大模型分发加速
为应对大模型服务突发流量场景，阿里云人工智能平台 PAI 推理服务 PAI-EAS 提供本地目录内存缓存（Memory Cache）的大模型分发加速功能，有效解决大量请求接入情况下的推理延迟。PAI-EAS 大模型分发加速功能，零代码即可轻松完成配置。
|
一文读懂！异常检测全攻略！从统计方法到机器学习 ⛵
本文系统介绍了『单变量异常检测』和『多变量异常检测』识别技术，包括传统的统计方法（四分位距、标准差），以及前沿的机器学习模型（孤立森林、DBSCAN、LOF局部离群因子）。
PAI-Diffusion 模型来了！阿里云机器学习团队带您徜徉中文艺术海洋
PAI-Diffusion系列模型，包括一系列通用场景和特定场景的文图生成模型，本⽂简要介绍PAI-Diffusion模型及其体验方式。
【ACL2023】基于电商多模态概念知识图谱增强的电商场景图文模型FashionKLIP
从大规模电商图文数据中自动化构建多模态概念级知识图谱的方案，随后将概念级多模态先验知识注入到VLP模型中，以实现跨模态图文样本在概念层面进一步对齐。
快速玩转 Llama2 机器学习 PAI 最佳实践（一）低代码 Lora 微调及部署
采用阿里云机器学习平台PAI-快速开始模块针对 Llama-2-7b-chat 进行开发。PAI-快速开始支持基于开源模型的低代码训练、布署和推理全流程，适合想要快速开箱体验预训练模型的开发者。
TAG：BladeLLM 的纯异步推理架构
近期，大模型推理社区（vLLM，SGLang 等）普遍开始关注框架运行时开销，提出了多步调度、异步输出处理、独立 API Server 进程等工作，来分摊或掩盖部分开销。
在我们的实际业务场景中，也观察到高额的框架开销严重限制了系统吞吐，特别是在高并发（>1k）场景下，运行时开销已经接近或高于 GPU 运行时间，导致资源严重浪费和性能下降。为此，BladeLLM 设计并实现了基于 Python 的纯异步 LLM 推理架构 -- TAG (Totally Asynchronous Generator) ，以最大程度提高 GPU 利用率，提升引擎性能。
PAI 大语言模型评测平台现已支持裁判员模型评测
本文将为您介绍如何在 PAI 大语言模型评测平台，基于裁判员模型，评价开源模型或者微调后模型的性能。该功能限时免费，欢迎使用。
云上一键部署通义千问 QwQ-32B 模型，阿里云 PAI 最佳实践
3月6日阿里云发布并开源了全新推理模型通义千问 QwQ-32B，在一系列权威基准测试中，千问QwQ-32B模型表现异常出色，几乎完全超越了OpenAI-o1-mini，性能比肩Deepseek-R1，且部署成本大幅降低。并集成了与智能体 Agent 相关的能力，够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。阿里云人工智能平台 PAI-Model Gallery 现已经支持一键部署 QwQ-32B，本实践带您部署体验专属 QwQ-32B模型服务。
免费试用