阿里云丁宇:云上开发成为主流,Serverless 定义新范式

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
可观测链路 OpenTelemetry 版,每月50GB免费额度
简介: 阿里巴巴研究员、阿里云智能云原生应用平台总经理丁宇,在阿里云峰会·粤港澳论坛上的发言。


阿里云峰会·粤港澳大湾区在广州开幕,阿里巴巴研究员、阿里云智能云原生应用平台总经理丁宇在论坛发言,他表示:Serverless 引领云上开发新范式,通过丰富的原子化服务,全托管、高弹性、免运维的优势,以开箱即用的场景化能力,成本更优的按用付费模式,帮助企业跨越技术鸿沟,让创新触手可及。过去十年,上云成为确定性的趋势。在上云阶段,企业关注点在于如何实现平滑上云,因此云厂商将云托管作为核心策略。随着越来越多的企业上云,甚至很多企业系统第一天就是在云上构建,企业的核心关注点转变为如何更好地利用云的能力,将产品快速推向市场,从而实现业务成功。但是,如果算力的呈现形式仍然是服务器这样的资源形态,它的使用门槛依然很高。算力和业务相隔太远,企业需要有一整套支撑应用的基础设施来用好算力。让算力像电力一样的普及,云计算需要新的形态,就是 Serverless。


随着用好云成为关键,开发范式也将被重新定义。通过产品服务化、全托管的方式,让企业和开发者可以专注于业务逻辑开发;并且云服务具备可编排、可复用的优势,让企业做得更少而收获更多;基于 Serverless 可以轻松构建高弹性应用,让企业从容应对流量波动。在 Serverless 开发范式下,企业新功能交付周期大幅缩短,进一步加速业务迭代,赢得市场先机。





1.阿里云 Serverless 容器服务 ASK 全新升级

作为云原生的重要技术组成,K8s 已经被开发者和企业广泛认可,然而其自身复杂性和陡峭的学习曲线依然让人望而生畏。阿里云在 2018 年发布了首个 Serverless 容器服务 ASK,其本质是将容器的运行时和具体的节点运行环境解耦,让用户无需管理 K8s 节点和服务器,即可直接部署应用,大幅降低容器服务的使用门槛。此次 ASK 的全新升级,进一步整合了阿里云基础设施的能力,在使用成本、创建效率、异构资源兼容、弹性供给保障等方面带来显著提升,解决开发者在使用 K8s 的复杂性挑战,也顺应了 AI 场景爆发下催生的新需求。

image.png


组件全托管,零 K8s 运维成本:ASK 新增对 CoreDNS、Metrics Server 等十多个 K8s 核心组件的托管支持,提供动态容量规划能力,客户无需自行部署维护,最大化降低运维复杂度。同时,ASK 也新增了智能化风险识别能力,支持自动化升级 K8s 版本,避免升级导致的应用故障或异常风险。


极致弹性,准确率提升 80%:ASK 提供首界首创基于容器镜像缓存的 AI 大镜像秒级拉取能力,AI 应用启动时间降低 90%。并且提供端到端的弹性加速,面向AI/大数据工作负载容器化进行全栈优化,通过数据集加速提升 30% 访问性能;此外,本次 ASK 还增强了智能弹性预测 AHPA能力,相比人工配置,弹性准确率提升 80%;同时新增对于 GPU 的支持。


普惠算力,降价 40%:为了给客户提供更好的服务,释放技术红利,让算力更普惠,ASK 新增 U 实例规格支持,统一支持多款处理器,相比上一代主售实例降价高达 40%。新增 SavingPlan 弹性版本,面向应用非固定波峰波谷场景,额外成本优化 10% 以上。为进一步让价格更透明,新增成本套件支持,清晰洞察弹性资源成本,让成本治理更便捷。


“数禾科技采用阿里云 ASK 部署线上模型,无需 K8s 节点管理,根据实时流量动态使用 POD,资源成本节省60%;通过 ASK Knative 服务,解决了数禾模型的灰度发布和多版本并存问题;得益于ASK 自动伸缩和缩容到 0 的优势,降低运行成本,大幅提升服务可用性。”丁宇介绍。


2.函数计算 FC :让 AIGC 应用开发更简单

2023 年,生成式 AI 迎来了集中爆发,同时带动 GPU 需求不算上涨。阿里云函数计算拥有极致弹性的 GPU 实例,以及大规格的函数计算性能实例,这部分是承载 AI 应用稳定、高性能推理的重要环节。本次峰会,函数计算 GPU 迎来性能体验再升级:



用户配置更灵活:函数计算提供业界最小的 GPU 虚拟化粒度,显存规格最小至1GB。CPU 与 GPU 解耦,允许用户独立配置,同时支持 GPU Turing/Ampere 两代卡型。


资源利用率更高:底层技术架构从 ECS 架构过渡到神龙 GPU 架构,业界首创多租安全 GPU 共享虚拟化方案,综合资源利用率提升 80%。精细化匹配 AI 推理负载类型,算力规格最小达到 1/16 T4、1/24 A10。


技术更领先:函数计算 GPU 冷启动时间从分钟级到秒级,性能提升 300%。行业首发 GPU 按需付费,切入准实时推理场景,支持 AIGC 热门场景,助力 AI 创业和生产力提升。

我们发现,在实际应用中,AI 应用开发技术的门槛对很多人来说依然很高;另外将 AI 应用部署到生产环境中需要考虑安全性、可靠性、可伸缩性、维护性等问题,也需要一定的技术能力和经验。函数计算致力于为 AI 开发者、企业提供高效能、低成本的 AI 应用开发与部署服务。Serverless 架构具备高资源利用率与按量付费模式、服务端免运维等特性,让开发者真正实现 0 技术门槛开发 AIGC 应用。

image.png


整合 Serverless 应用中心、Serverless Devs 等完备的应用上云套件:帮助开发者完成从 0 到 1 再到 N 的业务开发,并提供应用全生命周期管理能力。通过 Serverless 应用中心,用户在部署应用之前无需进行额外的克隆、构建、打包和发布操作,就可以快速部署和管理应用,轻松沉淀最佳实践。


构建完整的 AIGC 能力中心:阿里云产品与 LangChain 等 AI 框架高度集成,开发者可以在 ModelScope、HuggingFace 等开源生态或社区选择模型进行开发、部署。


基于函数计算+Serverless 应用中心,开发者可以一键模型托管、5 分钟上手 AI 应用开发、研发效能提升 80%。后续 Serverless 应用中心会持续沉淀各行各业的典型 AI 应用案例模版,让用户可以更简单地了解和掌握。目前 Serverless 应用中心已经接入了通义千问、文生图、图生图、图生文等 10 多款热门 AI 应用模版。



函数计算为 AIGC 的应用落地打开了一扇新的窗,“让每个人都可以开发 AIGC 应用。”丁宇介绍



基于函数计算 FC+Serverless 应用中心能力,阿里云全新上线“函数计算一键部署通义千问预体验”成为业界首个能够试用通义千问的应用平台,与业务场景相结合,部署成功通义千问预体验应用即可获得 30 次对话机会。除此之外,本次还上线了文生图、图生图、图生文、文生文等经典 AI 场景体验活动,让开发者 5 分钟完成 AIGC 应用部署,让创意更快落地。




3.云原生产品免费试用再升级

此前,阿里云对外发布“飞天免费试用计划”,面向国内千万云上开发者,提供包括函数计算、ECS、数据库 PolarDB、机器学习 PAI 等在内 50 款全栈云产品的免费试用,全面支持 Serverless 的开发模式。本次云原生产品免费试用再升级,不仅新增了 Serverless 容器服务 ASK ,同时即将上线云消息队列 MQ、Serverless 应用引擎 SAE、性能测试等多款产品,进一步丰富企业和开发者的使用场景。




除了免费试用计划之外,阿里云还构建了云原生社区、开发者训练营、培训体系、体验场景等丰富的内容,让开发者能够一键通过多个免费试用的产品搭建出想要的架构,快速体验云原生和 Serverless 的魅力。丁宇说,Serverless 致力于让算力更普惠,让技术红利为更多人享用,让创新流动起来,让每个人都可以成为云原生时代的新开发者。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
相关文章
|
2月前
|
人工智能 自然语言处理 Serverless
阿里云函数计算 x NVIDIA 加速企业 AI 应用落地
阿里云函数计算与 NVIDIA TensorRT/TensorRT-LLM 展开合作,通过结合阿里云的无缝计算体验和 NVIDIA 的高性能推理库,开发者能够以更低的成本、更高的效率完成复杂的 AI 任务,加速技术落地和应用创新。
131 13
|
2月前
|
存储 人工智能 运维
正式收官!阿里云函数计算携手优酷,用 AI 重塑影视 IP 创新边界
近日,阿里云联合优酷发起的 Create@影视 IP x AI 应用创新大赛,将网剧《少年白马醉春风》这一热门影视 IP 与阿里云 AI 技术相结合,由阿里云函数计算提供 AIGC 技术支持参赛者基于网剧《少年白马醉春风》IP 或“少年江湖”精神内核,用 AI 生成角色场景设计、手办设计、破次元合照、数字人等多样化的作品。
102 10
|
3天前
|
监控 安全 Serverless
"揭秘D2终端大会热点技术:Serverless架构最佳实践全解析,让你的开发效率翻倍,迈向技术新高峰!"
【10月更文挑战第23天】D2终端大会汇聚了众多前沿技术,其中Serverless架构备受瞩目。它让开发者无需关注服务器管理,专注于业务逻辑,提高开发效率。本文介绍了选择合适平台、设计合理函数架构、优化性能及安全监控的最佳实践,助力开发者充分挖掘Serverless潜力,推动技术发展。
9 1
|
27天前
|
分布式计算 大数据 Serverless
云栖实录 | 开源大数据全面升级:Native 核心引擎、Serverless 化、湖仓架构引领云上大数据发展
在2024云栖大会开源大数据专场上,阿里云宣布推出实时计算Flink产品的新一代向量化流计算引擎Flash,该引擎100%兼容Apache Flink标准,性能提升5-10倍,助力企业降本增效。此外,EMR Serverless Spark产品启动商业化,提供全托管Serverless服务,性能提升300%,并支持弹性伸缩与按量付费。七猫免费小说也分享了其在云上数据仓库治理的成功实践。其次 Flink Forward Asia 2024 将于11月在上海举行,欢迎报名参加。
146 1
云栖实录 | 开源大数据全面升级:Native 核心引擎、Serverless 化、湖仓架构引领云上大数据发展
|
13天前
|
人工智能 弹性计算 运维
触手可及:阿里云函数计算助力AI大模型的评测
阿里云推出的面向AI服务器的功能计算(Functional Computing, FC),专为AI应用提供弹性计算资源。该服务支持无服务器部署、自动资源管理和多语言支持,极大简化了AI应用的开发和维护。本文全面评测了FC for AI Server的功能特性、使用体验和成本效益,展示了其在高效部署、成本控制和安全性方面的优势,并通过具体应用案例和改进建议,展望了其未来发展方向。
85 4
|
2月前
|
SQL 分布式计算 Serverless
阿里云 EMR Serverless Spark 版正式开启商业化
阿里云 EMR Serverless Spark 版正式开启商业化,内置 Fusion Engine,100% 兼容开源 Spark 编程接口,相比于开源 Spark 性能提升300%;提供 Notebook 及 SQL 开发、调试、发布、调度、监控诊断等一站式数据开发体验!
104 3
阿里云 EMR Serverless Spark 版正式开启商业化
|
21天前
|
监控 Serverless 云计算
探索Serverless架构:开发的未来趋势
【10月更文挑战第5天】Serverless架构,即无服务器架构,正逐渐成为云计算领域的热点。它允许开发者构建和运行应用程序而无需管理底层服务器。本文介绍了Serverless架构的基本概念、核心优势及挑战,并展示了其在事件驱动编程、微服务架构和数据流处理等场景中的应用。通过优化冷启动、使用外部存储等实战技巧,开发者可以更好地利用Serverless架构提升开发效率和应用性能。随着技术的成熟,Serverless将在未来软件开发中扮演重要角色。
|
2月前
|
人工智能 运维 大数据
阿里云“触手可及,函数计算玩转 AI 大模型”解决方案评测报告
阿里云“触手可及,函数计算玩转 AI 大模型”解决方案评测报告
77 2
|
2月前
|
Cloud Native 关系型数据库 Serverless
基于阿里云函数计算(FC)x 云原生 API 网关构建生产级别 LLM Chat 应用方案最佳实践
本文带大家了解一下如何使用阿里云Serverless计算产品函数计算构建生产级别的LLM Chat应用。该最佳实践会指导大家基于开源WebChat组件LobeChat和阿里云函数计算(FC)构建企业生产级别LLM Chat应用。实现同一个WebChat中既可以支持自定义的Agent,也支持基于Ollama部署的开源模型场景。
291 12
|
3月前
|
前端开发 大数据 数据库
🔥大数据洪流下的决战:JSF 表格组件如何做到毫秒级响应?揭秘背后的性能魔法!💪
【8月更文挑战第31天】在 Web 应用中,表格组件常用于展示和操作数据,但在大数据量下性能会成瓶颈。本文介绍在 JavaServer Faces(JSF)中优化表格组件的方法,包括数据处理、分页及懒加载等技术。通过后端分页或懒加载按需加载数据,减少不必要的数据加载和优化数据库查询,并利用缓存机制减少数据库访问次数,从而提高表格组件的响应速度和整体性能。掌握这些最佳实践对开发高性能 JSF 应用至关重要。
63 0

相关产品

  • 函数计算