# 人工智能平台 PAI #
0
关注
3877内容
深度讲解-互联网算法备案指南和教程
随着人工智能和大数据技术的发展，互联网算法在内容推荐、用户画像等领域日益重要，但也带来了安全风险和合规挑战。国家互联网信息办公室为此发布了《互联网算法备案管理规定》，要求具有舆论属性或社会动员能力的互联网信息服务提供者进行算法备案，以确保算法透明性和合规性，维护网络健康秩序。唯安创远AI合规专家将解析备案的必要性、流程及其对企业的影响，帮助企业顺利完成备案。
P人出游，你是否需要一个懂你更懂规划的AI导游呢？
通过 PAI+LLaMA Factory 微调 Qwen2-VL 模型，快速搭建文旅领域知识问答机器人，期待看到您与AI导游的创意对话！
使用PAI+LLaMA Factory 微调 Qwen2-VL 模型，搭建文旅领域知识问答机器人
本次教程介绍了如何使用 PAI 和 LLaMA Factory 框架，基于全参方法微调 Qwen2-VL模型，使其能够进行文旅领域知识问答，同时通过人工测试验证了微调的效果。
云栖实录 | GenAI 时代 AI Infra 工程技术趋势与平台演进
本文根据2024云栖大会实录整理而成，演讲信息如下：
演讲人：林伟 | 阿里云智能集团研究员、阿里云人工智能平台 PAI 负责人；黄博远｜阿里云智能集团资深产品专家、阿里云人工智能平台 PAI 产品负责人
活动：2024 云栖大会 - AI Infra 核心技术专场、人工智能平台 PAI 年度发布专场
Pai-Megatron-Patch：围绕Megatron-Core打造大模型训练加速生态
Pai-Megatron-Patch（https://github.com/alibaba/Pai-Megatron-Patch）是阿里云人工智能平台PAI研发的围绕Nvidia MegatronLM的大模型开发配套工具，旨在帮助开发者快速上手大模型，完成大模型（LLM）相关的高效分布式训练，有监督指令微调，下游任务评估等大模型开发链路。最近一年来，我们持续打磨Pai-Megatron-Patch的性能和扩展功能，围绕Megatron-Core（以下简称MCore）进一步打造大模型训练加速技术生态，推出更多的的训练加速、显存优化特性。
TAG：BladeLLM 的纯异步推理架构
近期，大模型推理社区（vLLM，SGLang 等）普遍开始关注框架运行时开销，提出了多步调度、异步输出处理、独立 API Server 进程等工作，来分摊或掩盖部分开销。
在我们的实际业务场景中，也观察到高额的框架开销严重限制了系统吞吐，特别是在高并发（>1k）场景下，运行时开销已经接近或高于 GPU 运行时间，导致资源严重浪费和性能下降。为此，BladeLLM 设计并实现了基于 Python 的纯异步 LLM 推理架构 -- TAG (Totally Asynchronous Generator) ，以最大程度提高 GPU 利用率，提升引擎性能。
【Paper Reading】结合 NanoFlow 研究，优化大语言模型服务效率的探索
本文将深入探讨 NanoFlow 的关键思路和核心技术，分析 NanoFlow 与 阿里云人工智能平台 PAI 在实际工作中应用的潜力。
AI Native平台，跨越AI应用从创新到生产的鸿沟
2024年是AI应用的元年，以大模型为中心的 AI Native 应用大爆发正在从理想变成现实。云计算带来的应用创新潮，经历了虚拟机时代和云原生时代，正在全面拥抱以大模型为核心的 AI Native 阶段，推动大数据与AI的工作流前所未有地紧密结合。领先大模型、高效的AI计算平台和统一的大数据平台是 AI Native 应用广泛落地背后不可获缺的要素。
9月20日，2024云栖大会上，阿里云副总裁、阿里云计算平台事业部负责人汪军华宣布大数据AI平台全面升级，为 AI Native 应用大爆发提供坚实的平台支撑。
免费试用