Serverless 架构的典型应用场景

本文涉及的产品
函数计算FC,每月15万CU 3个月
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
简介: Serverless架构自提出到现在经过若干年的发展,已经在很多领域中有着非常多的最佳实践。但是Serverless自身也是有局限性,由于其无状态、轻量化等特性,Serverless在一部分场景下可以有非常优秀的表现,但是在另外一些场景下可能表现的并不是很理想。

Serverless架构自提出到现在经过若干年的发展,已经在很多领域中有着非常多的最佳实践。但是Serverless自身也是有局限性,由于其无状态、轻量化等特性,Serverless在一部分场景下可以有非常优秀的表现,但是在另外一些场景下可能表现的并不是很理想。在《CNCF Serverless Whitepaper v1.0》中对Serverless架构所适合的用户场景描述为:

  • 异步的并发,组件可独立部署和扩展(原文:Asynchronous, concurrent, easy to parallelize into independent units of work)
  • 应对突发或服务使用量不可预测(原文:Infrequent or has sporadic demand, with large, unpredictable variance in scaling requirements)
  • 短暂、无状态的应用,对冷启动时间不敏感(原文:Stateless, ephemeral, without a major need for instantaneous cold start time)
  • 需要快速开发迭代的业务,因为无需提前申请资源,因此可以加快业务上线速度(原文:Highly dynamic in terms of changing business requirements that drive a need for accelerated developer velocity)

在文章中还对Serverless架构可以更好支持的领域进行了简单的描述:Non-HTTP-centric and non-elastic scale workloads that weren’t good fits for an IaaS, PaaS, or CaaS solution can now take advantage of the on-demand nature and efficient cost model of a serverless architecture,针对Serverless比较适用的具体领域,在文章中这样举例:

• 响应数据库更改(插入、更新、触发、删除)的执行逻辑(原文:Executing logic in response to database changes (insert, update, trigger, delete) )

• 对物联网传感器输入消息(如MQTT消息)进行分析(原文:Performing analytics on IoT sensor input messages (such as MQTT messages) )

• 处理流处理(分析或修改动态数据)(原文:Handling stream processing (analyzing or modifying data in motion) )

• 管理单次提取、转换和存储需要在短时间内进行大量处理(ETL)原文:Managing single time extract, transform, and loarequire a lot of processing for a short time (ETL) )

• 通过聊天机器人界面提供认知计算(异步,但相关)(原文:Providing cognitive computing via a chatbot interface (asynchronous, but correlated) )

• 调度短时间内执行的任务,例如cron或批处理的调用(原文:Scheduling tasks performed for a short time, such as cron or batch style invocations )

• 机器学习和人工智能模型(检索一个或多个数据元素(异步、并发,易于并行化到独立的工作单元罕见或零星需求,与大,不可预测的方差比例要求无状态的,短暂的,没有一个主要需要瞬时冷启动时间高度动态变化的业务需求的驱动需要加快开发速度表7,NLP,或图像,并与预先学习的数据模型进行匹配,以识别文本、面孔、异常等。)(原文:Serving machine learning and AI models (retrieving one or more data elements such Asynchronous, concurrent, easy to parallelize into independent units of work Infrequent or has sporadic demand, with large, unpredictable variance in scaling requirements Stateless, ephemeral, without a major need for instantaneous cold start time Highly dynamic in terms of changing business requirements that drive a need for accelerated developer velocity 7 as tables, NLP, or images and matching against a pre-learned data model to identify text, faces, anomalies, etc.) )

• 持续集成管道按需为构建作业提供资源,而不是保持一个构建从主机池等待作业分派(原文:Continuous integration pipelines that provision resources for build jobs on-demand, instead of keeping a pool of build slave hosts waiting for jobs to be dispatched)

《CNCF Serverless Whitepaper v1.0》站在Serverless架构的特点,从理论上描述了Serverless架构适合的场景或业务,云厂商将会站在自身的业务角度,整体来描述Serverless架构的典型场景,不同云厂商虽然描述的典型场景可能有所不同,但是实际上整体思路或者类型是类似的:

云厂商 产品

典型场景举例

AWS Lambda

  • 实时文件处理
  • 实时流处理
  • 机器学习
  • IoT后端
  • 移动应用后端
  • Web应用程序

阿里云 函数计算

  • Web应用
  • 实时数据处理
  • AI推理
  • 视频转码

华为云 函数工作流

  • 实时文件处理
  • 实时数据流处理
  • Web/移动应用后端
  • 人工智能场景

腾讯云 云函数

  • 实时文件处理
  • 数据ETL处理
  • 移动及Web应用后端
  • AI推理预测

综上所述可以看到在各个云厂商层面,所推出的典型场景主要包括:实时文件处理、实时数据处理、机器学习(AI推理预测)、IoT后端、移动应用后端、Web应用程序、音视频转码(实际上与实时文件处理是类似的)等。

实时文件处理

视频应用、社交应用等场景下,用户上传的图片、音视频的总量大、频率高,对处理系统的实时性和并发能力都有较高的要求。例如:对于用户上传的图片,我们可以使用多个函数对其分别处理,包括图片的压缩、格式转换、鉴黄鉴恐等,以满足不同场景下的需求。

数据ETL处理

通常我们要对大数据进行处理,需要搭建Hadoop或者Spark等相关大数据的框架,同时要有一个处理数据的集群,也被称为分布式系统。通过Serveerless技术,只需要不断地将获得到的数据不断的存储到对象存储,并且通过对象存储相关触发器触发数据拆分函数进行相关数据或者任务的拆分,然后再调用相关处理函数,处理完成之后,存储到云数据库中。例如:某证券公司每12小时统计一次该时段的交易情况并整理出该时段交易量 top 5,每天处理一遍秒杀网站的交易流日志获取因售罄而导致的错误从而分析商品热度和趋势等。云函数近乎无限扩容的能力可以使您轻松地进行大容量数据的计算。我们利用云函数可以对源数据并发执行多个 mapper 和 reducer 函数,在短时间内完成工作;相比传统的工作方式,使用云函数更能避免资源的闲置浪费从而节省资金。

实时数据处理

通过Serverless架构所支持的丰富的事件源,通过事件触发机制,可以通过几行代码和简单的配置对数据进行实时处理,例如:对 OSS zip 包进行解压、对 SLS 日志或 OTS 数据进行清洗、对 MNS 消息进行自定义消费等

机器学习(AI推理预测)

在 AI 模型完成训练后,对外提供推理服务时,可以使用Serverless架构,通过将数据模型包装在调用函数中,在实际用户请求到达时再运行代码。相对于传统的推理预测,这样做的好处是无论是函数模块还是后端的GPU服务器,以及对接的其他相关的机器学习服务,都是可以进行按量付费以及自动伸缩,从而保证性能的同时也确保了服务的稳定。


IoT后端

目前很多厂商都在推出自己的智能音响产品,用户可以对智能音箱说出一句话,智能音箱可以通过互联网将这句话传递给后端服务,然后获得到反馈结果,再返回给用户。通过Serverless架构,可以将API网关、云函数以及数据库产品进行结合来替代传统的服务器或者是虚拟机等,通过这样的一个架构,一方面,可以确保资源的按量付费,只有在使用的时候,函数部分才会计费,另一方面可以当用户量增加之后,通过Serverless实现的智能音箱系统的后端,也会进行弹性伸缩,可以保证用户侧的服务稳定,当我们要对其中某个功能进行维护相当于对单个函数进行维护,并不会对主流程产生额外风险。相对来说会更加安全、稳定等。

Web应用/移动应用后端

Serverless架构和云厂商所提供的其他云产品进行结合,开发者能够构建可弹性扩展的移动或 Web 应用程序 – 轻松创建丰富的无服务器后端,而且这些程序可在多个数据中心高可用运行,无需在可扩展性、备份冗余方面执行任何管理工作。

音视频转码

视频应用、社交应用等场景下,用户会上传一些视频,通常情况下,上传的视频会进行一些转码,包括转换为不同的清晰度,通过Serverless技术与对象存储相关产品组合,利用对象存储相关触发器,即上传者将视频上传到对象存储中,触发如果云函数对齐其进行处理,处理之后将其重新存储到对象存储中,这个时候其他用户过来就可以选择编码后的视频进行播放,包括对不同清晰度的选择等。

综上所示,Serverless架构的典型应用场景更多是由Serverless架构的特点决定的。当然,随着时间的不断推移,Serverless架构其实在不断的演进,特点会更加突出,劣势会被弥补,进而Serverless架构所适合的场景也会不断的更加丰富。

相关实践学习
【AI破次元壁合照】少年白马醉春风,函数计算一键部署AI绘画平台
本次实验基于阿里云函数计算产品能力开发AI绘画平台,可让您实现“破次元壁”与角色合照,为角色换背景效果,用AI绘图技术绘出属于自己的少年江湖。
从 0 入门函数计算
在函数计算的架构中,开发者只需要编写业务代码,并监控业务运行情况就可以了。这将开发者从繁重的运维工作中解放出来,将精力投入到更有意义的开发任务上。
目录
相关文章
|
5天前
|
存储 人工智能 Serverless
函数计算进化之路:AI 应用运行时的状态剖析
AI应用正从“请求-响应”迈向“对话式智能体”,推动Serverless架构向“会话原生”演进。阿里云函数计算引领云上 AI 应用 Serverless 运行时技术创新,实现性能、隔离与成本平衡,开启Serverless AI新范式。
146 12
|
2月前
|
人工智能 自然语言处理 开发工具
统一多模态 Transformer 架构在跨模态表示学习中的应用与优化
本文介绍统一多模态 Transformer(UMT)在跨模态表示学习中的应用与优化,涵盖模型架构、实现细节与实验效果,探讨其在图文检索、图像生成等任务中的卓越性能。
统一多模态 Transformer 架构在跨模态表示学习中的应用与优化
|
3月前
|
存储 编解码 Serverless
Serverless架构下的OSS应用:函数计算FC自动处理图片/视频转码(演示水印添加+缩略图生成流水线)
本文介绍基于阿里云函数计算(FC)和对象存储(OSS)构建Serverless媒体处理流水线,解决传统方案资源利用率低、运维复杂、成本高等问题。通过事件驱动机制实现图片水印添加、多规格缩略图生成及视频转码优化,支持毫秒级弹性伸缩与精确计费,提升处理效率并降低成本,适用于高并发媒体处理场景。
214 0
|
5天前
|
人工智能 Cloud Native 中间件
划重点|云栖大会「AI 原生应用架构论坛」看点梳理
本场论坛将系统性阐述 AI 原生应用架构的新范式、演进趋势与技术突破,并分享来自真实生产环境下的一线实践经验与思考。
|
11天前
|
人工智能 Kubernetes 安全
重塑云上 AI 应用“运行时”,函数计算进化之路
回顾历史,电网的修建,深刻地改变了世界的经济地理和创新格局。今天,一个 AI 原生的云端运行时的进化,其意义也远不止于技术本身。这是一次设计哲学的升华:从“让应用适应平台”到“让平台主动理解和适应智能应用”的转变。当一个强大、易用、经济且安全的 AI 运行时成为像水电一样的基础设施时,它将极大地降低创新的门槛。一个独立的开发者、一个小型创业团队,将有能力去创造和部署世界级的 AI 应用。这才是技术平权的真谛,是激发全社会创新潜能的关键。
|
11天前
|
机器学习/深度学习 人工智能 vr&ar
H4H:面向AR/VR应用的NPU-CIM异构系统混合卷积-Transformer架构搜索——论文阅读
H4H是一种面向AR/VR应用的混合卷积-Transformer架构,基于NPU-CIM异构系统,通过神经架构搜索实现高效模型设计。该架构结合卷积神经网络(CNN)的局部特征提取与视觉Transformer(ViT)的全局信息处理能力,提升模型性能与效率。通过两阶段增量训练策略,缓解混合模型训练中的梯度冲突问题,并利用异构计算资源优化推理延迟与能耗。实验表明,H4H在相同准确率下显著降低延迟和功耗,为AR/VR设备上的边缘AI推理提供了高效解决方案。
171 0
|
2月前
|
人工智能 数据可视化 Java
什么是低代码(Low-Code)?低代码核心架构技术解析与应用展望
低代码开发正成为企业应对业务增长与IT人才短缺的重要解决方案。相比传统开发方式效率提升60%,预计2026年市场规模达580亿美元。它通过可视化界面与少量代码,让非专业开发者也能快速构建应用,推动企业数字化转型。随着AI技术发展,低代码与AIGC结合,正迈向智能化开发新时代。
|
2月前
|
存储 人工智能 缓存
AI应用爆发式增长,如何设计一个真正支撑业务的AI系统架构?——解析AI系统架构设计核心要点
本文AI专家三桥君系统阐述了AI系统架构设计的核心原则与关键技术,提出演进式、先进性、松耦合等五大架构法则,强调高并发、高可用等系统质量属性。通过垂直扩展与水平扩展策略实现弹性伸缩,采用多类型数据存储与索引优化提升性能。三桥君介绍了缓存、批处理等性能优化技术,以及熔断隔离等容灾机制,构建全链路监控体系保障系统稳定性。为构建支撑亿级业务的AI系统提供了方法论指导和技术实现路径。
346 0
|
2月前
|
消息中间件 人工智能 安全
企业级AI应用需要系统工程支撑,如何通过MCP大模型架构实现全链路实战解构?
本文三桥君深入探讨了MCP大模型架构在企业级AI应用中的全链路实战解构。从事件驱动、统一中台、多端接入、API网关、AI Agent核心引擎等九个核心模块出发,系统阐述了该架构如何实现低耦合高弹性的智能系统构建。AI专家三桥君提出从技术、内容、业务三个维度构建评估体系,为企业级AI应用提供了从架构设计到落地优化的完整解决方案。
199 0

热门文章

最新文章

相关产品

  • 函数计算