AI 助理
文档备案控制台
开发者社区 阿里云最佳实践 文章 正文

函数计算AI推理

2020-12-04 1602
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 利用函数计算构建CPU推理服务，节省部署时间，提高工程效率，减轻运维压力。

直达最佳实践：【函数计算AI推理】
最佳实践频道：【点击查看更多上云最佳实践】

这里有丰富的企业上云最佳实践，从典型场景入门，提供一系列项目实践方案，降低企业上云门槛的同时满足您的需求！

场景描述

通过函数计算服务（serverless服务）来部署AI推理（CPU密集型）服务，达到快速部署，提升工程效率，弹性伸缩免运维，降低成本的目的。

解决问题

1.如何使用函数计算部署AI推理服务。
2.如何进行函数的压测。

产品列表

  • 函数计算服务
  • 文件存储NAS
  • 性能测试PTS

120.png

直达最佳实践 》》

bp-120.png

文章标签：
函数计算
测试技术
人工智能
弹性计算
运维
文件存储
Serverless
关键词：
AI推理
函数计算ai
AI函数计算
函数计算AI推理
函数计算推理
相关实践学习
【AI破次元壁合照】少年白马醉春风，函数计算一键部署AI绘画平台
本次实验基于阿里云函数计算产品能力开发AI绘画平台，可让您实现“破次元壁”与角色合照，为角色换背景效果，用AI绘图技术绘出属于自己的少年江湖。
从 0 入门函数计算
在函数计算的架构中，开发者只需要编写业务代码，并监控业务运行情况就可以了。这将开发者从繁重的运维工作中解放出来，将精力投入到更有意义的开发任务上。
最佳实践小文
目录
相关文章
阿里云云原生
|
4月前
|
机器学习/深度学习 人工智能 Serverless
吉利汽车携手阿里云函数计算，打造新一代 AI 座舱推理引擎
当前吉利汽车研究院人工智能团队承担了吉利汽车座舱 AI 智能化的方案建设，在和阿里云的合作中，基于星睿智算中心 2.0 的 23.5EFLOPS 强大算力，构建 AI 混合云架构，面向百万级用户的实时推理计算引入阿里云函数计算的 Serverless GPU 算力集群，共同为智能座舱的交互和娱乐功能提供大模型推理业务服务，涵盖的场景如针对模糊指令的复杂意图解析、文生图、情感 TTS 等。
阿里云云原生
656 1
阿里云云原生
|
4月前
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE：为传统应用托底，为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下，企业既要稳健托管传统业务，又要高效落地 AI 创新，如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本，成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎（SAE）正是为应对这一时代挑战而生的破局者，SAE 以“免运维、强稳定、极致降本”为核心，通过一站式的应用级托管能力，同时支撑传统应用与 AI 应用，让企业把更多精力投入到业务创新。
阿里云云原生
591 30
阿里云云原生
|
4月前
|
人工智能 运维 安全
加速智能体开发：从 Serverless 运行时到 Serverless AI 运行时
在云计算与人工智能深度融合的背景下，Serverless 技术作为云原生架构的集大成者，正加速向 AI 原生架构演进。阿里云函数计算（FC）率先提出并实践“Serverless AI 运行时”概念，通过技术创新与生态联动，为智能体（Agent）开发提供高效、安全、低成本的基础设施支持。本文从技术演进路径、核心能力及未来展望三方面解析 Serverless AI 的突破性价值。
阿里云云原生
469 3
龙蜥社区（OpenAnolis）
|
4月前
|
存储 人工智能 安全
《Confidential MaaS 技术指南》发布，从 0 到 1 构建可验证 AI 推理环境
Confidential MaaS 将从前沿探索逐步成为 AI 服务的安全标准配置。
龙蜥社区（OpenAnolis）
624 84
阿里云云原生
|
5月前
|
存储 人工智能 Serverless
函数计算进化之路：AI 应用运行时的状态剖析
AI应用正从“请求-响应”迈向“对话式智能体”，推动Serverless架构向“会话原生”演进。阿里云函数计算引领云上 AI 应用 Serverless 运行时技术创新，实现性能、隔离与成本平衡，开启Serverless AI新范式。
阿里云云原生
585 13
Serverless小助手
|
5月前
|
人工智能 机器人 Serverless
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
当云计算遇见具身智能，AI咖啡开启零售新体验。用户通过手机生成个性化图像，云端AI快速渲染，机器人精准复刻于咖啡奶泡之上，90秒内完成一杯可饮用的艺术品。该方案融合阿里云FunctionAI生图能力与安诺机器人高精度执行系统，实现AIGC创意到实体呈现的闭环，为线下零售提供低成本、高互动、易部署的智能化升级路径，已在商场、机场、展馆等场景落地应用。
Serverless小助手
570 4
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
聚客AI
|
5月前
|
存储 机器学习/深度学习 算法
​​LLM推理效率的范式转移：FlashAttention与PagedAttention正在重塑AI部署的未来​
本文深度解析FlashAttention与PagedAttention两大LLM推理优化技术：前者通过分块计算提升注意力效率，后者借助分页管理降低KV Cache内存开销。二者分别从计算与内存维度突破性能瓶颈，显著提升大模型推理速度与吞吐量，是当前高效LLM系统的核心基石。建议收藏细读。
聚客AI
992 125
Serverless小助手
|
5月前
|
人工智能 Serverless API
函数计算的云上计费演进：从请求驱动到价值驱动，助力企业走向 AI 时代
函数计算计费方式历经三阶段演进：从按请求计费，到按活跃时长毫秒级计费，再到按实际资源消耗分层计费。背后是资源调度、安全隔离与开发体验的持续优化。尤其在AI时代，低负载减免、会话亲和等技术让计费更贴近真实价值，推动Serverless向“按需使用、按量付费”终极目标迈进。
Serverless小助手
281 10
阿里云云原生
|
5月前
|
人工智能 Serverless API
函数计算的云上计费演进：从请求驱动到价值驱动，助力企业走向 AI 时代
在 AI 时代，函数计算一直坚持走向“让开发者只关心业务逻辑，云厂商自动完成一切资源管理与调度”的愿景，最终让计算像水、电一样随时可得、按实际使用价值付费。
阿里云云原生
192 3

阿里云最佳实践

热门文章

最新文章

  • 1
    AI驱动智能化日志分析 : 通过决策树给日志做聚类分析
  • 2
    中国龙华人工智能产业(人才)创新圆桌会：AI时代的智胜之道VS龙华人才孵化新机遇
  • 3
    【假期 AI 充电】KServe + Fluid 加速大模型推理
  • 4
    深入分析自动化测试中AI驱动的测试用例生成
  • 5
    AIGC - 生产力新工具 Bito AI
  • 6
    AI天后,在线飙歌,人工智能AI孙燕姿模型应用实践，复刻《遥远的歌》，原唱晴子(Python3.10)
  • 7
    腾讯医疗AI实验室公布最新研究成果，用深度学习分割头颈组织区域助力靶向治疗
  • 8
    模型部署系列 | 一文告诉你AI模型QAT量化遇到震荡问题应该如何解决呢？（一）
  • 9
    英特尔AI医疗实战曝光：10倍加速辅助诊断、准确度高达90%
  • 10
    【Hello AI】通过Docker安装并使用cGPU服务
  • 1
    【Serverless架构组成及优势适用场景】
    667
  • 2
    ICDE’24｜中国企业首获最佳论文，详解PolarDB Serverless如何在0.5秒内实现跨机迁移
    55837
  • 3
    基于阿里云 EMR Serverless Spark 版快速搭建OSS日志分析应用
    56989
  • 4
    阿里云Elasticsearch Serverless助力某电商平台公司实现商品订单数据的实时写入查询
    747
  • 5
    云原生架构的未来演进：从容器化到无服务器
    197
  • 6
    阿里云 EMR Serverless StarRocks3.x，极速统一的湖仓新范式
    1522
  • 7
    阿里云Elasticsearch Serverless帮助某视觉科技公司平稳应对流量激增
    835
  • 8
    【阿里云云原生专栏】云原生与芬克斯：阿里云函数计算在金融行业的应用案例
    552
  • 9
    【PolarDB 开源】PolarDB Serverless 模式：自动扩缩容与成本效益分析
    592
  • 10
    阿里云Elasticsearch Serverless助力医疗科技企业实现业务提效和加速创新
    863

    • 相关课程

    更多
  • Serverless Develpoer Meetup 课程
  • Serverless 架构在软件研发工程实践方面的价值
  • Serverless 在各行业的实践
  • Serverless 在阿里巴巴的实践
  • Serverless 函数计算架构
  • Serverless 常见架构模式

    • 相关电子书

    更多
  • 微服务 Serverless 的演进和实践
  • ApsaraMQ Serverless 演进之路
  • 阿里云云原生 Serverless 技术实践营 PPT 演讲

    • 相关实验场景

    更多
  • 一键生成毛茸萌宠形象，基于函数计算极速部署ComfyUI生图系统
  • 通过ACK Serverless搭建企业级网站应用
  • Serverless极速搭建Hexo博客
  • 函数计算部署PuLID for FLUX人像写真实现智能换颜效果
  • AI克隆声音，基于函数计算部署GPT-Sovits语音生成模型
  • 【文生图】一键部署Stable Diffusion基于函数计算
    • 下一篇
    第五届伏魔挑战赛如约来袭，诚邀各路高手来战！