近年来，AI 技术发展迅猛，企业纷纷寻求将 AI 能力转化为商业价值，然而，在部署 AI 模型推理服务时，却遭遇成本高昂、弹性不足及运维复杂等挑战。本文将探讨云原生 Serverless GPU 如何从根本上解决这些问题，以实现 AI 技术的高效落地。
SAE 会继续致力于为用户提供极简易用、成本低廉、功能强大的 Serverless 应用全托管平台：“我们希望让用户做的更少而收获更多，通过 Serverless 化，深度用云就像用水电煤一样简单”。
本次课程由阿里云云原生架构师计缘分享，主题为“尽享红利，Serverless构建企业AI应用方案与实践”。课程分为四个部分：1) Serverless技术价值，介绍其发展趋势及优势；2) Serverless函数计算与AI的结合，探讨两者融合的应用场景；3) Serverless函数计算AIGC应用方案，展示具体的技术实现和客户案例；4) 业务初期如何降低使用门槛，提供新用户权益和免费资源。通过这些内容，帮助企业和开发者快速构建高效、低成本的AI应用。
在过去半年，ALB Ingress Controller推出了多项高级特性，包括支持AScript自定义脚本、慢启动、连接优雅中断等功能，增强了产品的灵活性和用户体验。此外，还推出了ingress2Albconfig工具，方便用户从Nginx Ingress迁移到ALB Ingress，以及通过Webhook服务实现更智能的配置校验，减少错误配置带来的影响。在容灾部署方面，支持了多集群网关，提高了系统的高可用性和容灾能力。这些改进旨在为用户提供更强大、更安全的云原生网关解决方案。
阿里云函数计算与 NVIDIA TensorRT/TensorRT-LLM 展开合作，通过结合阿里云的无缝计算体验和 NVIDIA 的高性能推理库，开发者能够以更低的成本、更高的效率完成复杂的 AI 任务，加速技术落地和应用创新。
今天分享一下，基于阿里云函数计算 FC 以及 CAP（云应用开发平台），极速托管专属的 CosyVoice 应用。并且我们提供了 API 调用方案以及镜像构建源码方便您根据自己的业务任意 DIY。
对于众多开发者而言，Serverless 架构的核心优势在于其能够无缝集成多种云产品与组件，从而使得开发者可以更加专注于核心业务逻辑和创新。此外，Serverless 架构还提供了按量付费的灵活计费模式，进一步降低了资源成本。使用云应用开发平台 CAP，在 AI 领域，企业就可以专注于模型训练、算法优化等关键任务，让 AI 应用的开发、部署以及全生命周期的管理更加简单。可以预见 Serverless 技术将催生一系列创新且有趣的应用，而这些应用将不断拓展 AI 技术的边界。
将 Qwen2.5 模型部署于函数计算 FC，用户能依据业务需求调整资源配置，有效应对高并发场景，并通过优化资源配置，如调整实例规格、多 GPU 部署和模型量化来提升推理速度。此外，函数计算支持多样化 GPU 计费模式（按需计费、阶梯定价、极速模式），可根据业务需求调整，在面对高频请求和大规模数据处理时，能够显著降低综合成本。
