基于阿里云Serverless架构下函数计算的最新应用场景详解(二)

简介: Serverless概念是近年来特别火的一个技术概念,基于这种架构能构建出很多应用场景,适合各行各业,只要对轻计算、高弹性、无状态等场景有诉求的用户都可以通过本文来普及一些基础概念,看看这些场景是否对用户有一些指导意义。

 682c7c496661b6bd99b3eb6acd147076024fc1c4

场景描述:

直播间的客户端把主播和连麦观众的音视频采集发送给函数计算做混流服务,函数计算把数据汇集后交给混流服务进行合成,并把合成画面视频流推送给CDN,终端观众实时拉取直播流,能实时看到混流合成画面。

视频直播应用场景中,有一种场景视频直播的多人连麦,主播可以同时和多个工作进行连麦,把多个观众或者好友画面接入,并把画面合成到一个场景中,供给更多观看直播的观众观看。这个场景中,有几个技术难度需要关注:

  1. 连麦的观众不固定,需要考虑适度的并发和弹性。
  2. 直播不可能24小时在线,有较为明显的业务访问高峰期和低谷期。
  3. 直播是事件或者公众点爆的场景,更新速度较快,版本迭代较快,需要快速完成对新热点的技术升级。

综合以上几个特点,可以通过Serverless这种架构的来完美解决以上痛点。

函数计算作为连麦观众和主播接入的实时音频和视频转发集群,当并发量过来时候,函数计算自动扩容多个执行环境来处理实时数据流,当业务高峰期过去后,会适度缩减资源使用,代码管理部署在云端,代码迭代可以随时进行修改和维护,无需再多管理一套软件运行环境。

 

视频直播场景常规做法:

  1. 购买负载均衡应付并发。
  2. 购买计算资源做数据处理。          
  3. 业务低谷期需要想办法释放硬件资源来节省成本。
  4. 多版本要维护多套运行环境。 

函数计算解法:

1、把负载分发程序写到函数里。

2、多版本迭代无需更换运行环境,仅仅替换代码版本即可。

3、业务访问按需付费,业务低谷期无费用。

fd4add1f56e3ac673f0812d9957654de31f4fe20

整个架构图分成2部分内容:

  • 一部分是Web应用,模拟一个社交内容更新和数据处理的流程,Web用户通过API网关把请求转发到函数计算进行处理,函数计算把处理后的内容更新到数据库中,并更新索引,另外一个函数计算把索引更新推送的搜索引擎供给外部客户进行检索,完成整个数据闭环处理。
  • 另一部分是智能设备通过IoT网关把设备状态推送到函数计算处理,函数计算通过API接口把消息通过移动推送服务,推送给移动端进行状态确认和管理。在智能设备状态处理的场景中,同样也会碰到几个核心技术问题要解决,当海量设备把状态发送到IoT平台后,如何设计一套高效非轮询的技术框架来处理设备状态数据;如何把处理后的数据高效透传其他产品,例如写数据库或者推送给移动端。

IoT设备状态场景常规做法:

  1. 设置消息通道接收事件,并编写业务代码。
  2. 购买服务器资源做后端数据处理。
  3. 开通多个产品,并调用SDK代码来完成业务交互。
  4. 维护相关硬件软件环境。

函数计算解法:

  1. 定制IoT平台的事件通知,直接把业务代码写到函数计算中。
  2. 不需要维护运行环境,用完即可释放。
  3. 控制台配置,就可以把信息透传给相关产品。
通过两种方式的对比,能看出函数计算的解法更具备通用性和大量减少维护工作。

共享派单系统详解

客户通过派单平台选着某种商家提供的服务,可能是餐饮、商品、或者服务。派单平台通知最近的骑手到最近的商家拿到服务并派送到客户手里。一个简单的流程图如下:

69de1efd2d3439b9e4a205b3ed8f17ad19fcb90f

流程详解:

步骤1、客户通知派单平台下单某商品

步骤2、派单平台通知最新骑手

步骤3、派单平台同时通知商家商品售卖出去

步骤4、骑手到指定的商家获取商品

步骤5、骑手配送到客户所在地

这个派单场景中,要解决几个棘手的技术:

整合多种资源,计算资源会涉及到,骑手位置信息、最优路径规划、车况情况、调度系统等

低延迟:派单系统对订单的响应要求很高,从接单到商家在到客户,整个闭环都需要在段时间内完成。

海量数据:涉及到三方面的数据,客户数据、商家数据、平台骑手数据、位置信息、商品信息等。

请求明显波峰波谷:派单系统在一天中的资源使用非常不均衡,波峰期,例如外卖,在中午和晚饭达到高峰,平时空闲。

通过技术选型转化成阿里云产品的解决方案后,函数计算结合其他产品比较完美的解决上述问题,解决方案图如下图所示:

fb162a73a91ac8a1de6ad6417bd16958178bf4ff

流程详解:

客户APP把订单请求通过API网关透传给函数计算,函数计算把处理后的数据传输给表格存储,表格存储存放了骑行数据、商家信息、位置信息等,其中骑行日志会存放到日志服务里,便于后续做报表分析。骑行过程中骑手头像、随手拍街景会存放到OSS中,骑手位置可以通过函数计算去拉取第三方地图信息,例如高德地图等。这个方案中,函数计算可以完成动态扩容问题,API网关可以解决鉴权和安全访问问题,函数计算打通了多款产品,可以无缝使用其他资源和内容。所有处理后的数据可以存放到表格存储数据库中,所有日志都可以直接加载到日志服务为后续数据报表服务。

共享派单系统常规做法:

  1. 购买多台服务器来支持高峰期的访问,访问波谷期自行设置释放原则。
  2. 通过编程方式完成多个产品的交互。
  3. 为了保证负载均衡,需要购买相关的产品来支撑。
  4. 人工维护相关硬件软件环境。

 

函数计算解法:

  1. 定制IoT平台的事件通知,直接把业务代码写到函数计算中。
  2. 不需要维护运行环境,用完即可释放。
  3. 控制台配置,就可以把信息透传给相关产品。

两种解法都能达到目标,从资源利用率和可维护性来看,使用Serverless架构的方式会更优。

 

通过上面几个个场景的详解,我们大致可以得出这样的结论,通过事件触发场景、有业务访问高峰和低谷的场景、迭代次数较多、需要快速打通多款产品场景,通过函数计算能完美的解决成本、效率、联通等问题。

 

表3-1函数计算和传统自建服务器的优劣对比

 

函数计算

自建计算环境

维护性

内置打通API网关,OSS,Table Store、IoThub、Log Service、Message Service、Datahub等产品,只需要简单配置。

沙箱执行环境,无需配置。

自动伸缩和负载均衡。

触发条件简单,入口多。

多款产品链接需要自己编写代码来实现,有技术门槛。

自建物理环境,需要配置运行环境,消耗人力物力。

需要自行搭建伸缩机制和负载均衡,耗时较多。

可靠性

代码和配置存放在OSS中,自动多重冗余备份。

受限于硬件可靠性,易出问题,一旦出现运行环境或者数据损坏,容易出现不可逆转的数据丢失。

人工数据恢复困难、耗时、耗力。

成本

按执行付费,在业务请求波谷期费用低廉

上行流量免费

无需运维人员和托管费用

阿里云产品内部传输无费用

同比计算能力,成本节省1/3

业务请求的波峰需要资源扩容,波谷的时候资源浪费。

需要专人维护运行环境和硬件资源,人力成本较高。

产品之间联通如果走公网,需要额外支付流量费用。

安全

沙箱运行在阿里云企业级别安全环境里。

多用户运行是服务器级别隔离机制。

提供多种服务授权和子主账号。

需要另外购买清洗和黑洞设备

需要单独实现安全访问机制

函数计算虽然适用于很多场景,但也不是覆盖全部应用场景的万金油。例如某些业务在一天中没有明显的请求波峰波谷,请求相对平缓,那么使用函数计算成本不见得会节省多少。Serverless这种框架是新兴的技术,目前相应的支持开发工具较少,整体这个框架还在探索中。另外函数计算的执行环境是不记录状态的,有些耦合性较强的应用也不太适合用Serverless这种框架。受限于资源大小分配,一些大型的应用程序也不太容易能拆分能搬上来。

相关实践学习
【玩转ComfyUI】基于函数计算一键部署AI生图平台ComfyUI
本次实验将带大家通过使用阿里云产品函数计算FC,快速使用ComfyUI实现更高质量的图像生成。
从 0 入门函数计算
在函数计算的架构中,开发者只需要编写业务代码,并监控业务运行情况就可以了。这将开发者从繁重的运维工作中解放出来,将精力投入到更有意义的开发任务上。
目录
相关文章
|
10月前
|
监控 Java API
Spring Boot 3.2 结合 Spring Cloud 微服务架构实操指南 现代分布式应用系统构建实战教程
Spring Boot 3.2 + Spring Cloud 2023.0 微服务架构实践摘要 本文基于Spring Boot 3.2.5和Spring Cloud 2023.0.1最新稳定版本,演示现代微服务架构的构建过程。主要内容包括: 技术栈选择:采用Spring Cloud Netflix Eureka 4.1.0作为服务注册中心,Resilience4j 2.1.0替代Hystrix实现熔断机制,配合OpenFeign和Gateway等组件。 核心实操步骤: 搭建Eureka注册中心服务 构建商品
1438 3
|
8月前
|
人工智能 JavaScript 前端开发
GenSX (不一样的AI应用框架)架构学习指南
GenSX 是一个基于 TypeScript 的函数式 AI 工作流框架,以“函数组合替代图编排”为核心理念。它通过纯函数组件、自动追踪与断点恢复等特性,让开发者用自然代码构建可追溯、易测试的 LLM 应用。支持多模型集成与插件化扩展,兼具灵活性与工程化优势。
688 6
|
9月前
|
人工智能 Cloud Native 中间件
划重点|云栖大会「AI 原生应用架构论坛」看点梳理
本场论坛将系统性阐述 AI 原生应用架构的新范式、演进趋势与技术突破,并分享来自真实生产环境下的一线实践经验与思考。
|
9月前
|
机器学习/深度学习 人工智能 vr&ar
H4H:面向AR/VR应用的NPU-CIM异构系统混合卷积-Transformer架构搜索——论文阅读
H4H是一种面向AR/VR应用的混合卷积-Transformer架构,基于NPU-CIM异构系统,通过神经架构搜索实现高效模型设计。该架构结合卷积神经网络(CNN)的局部特征提取与视觉Transformer(ViT)的全局信息处理能力,提升模型性能与效率。通过两阶段增量训练策略,缓解混合模型训练中的梯度冲突问题,并利用异构计算资源优化推理延迟与能耗。实验表明,H4H在相同准确率下显著降低延迟和功耗,为AR/VR设备上的边缘AI推理提供了高效解决方案。
1495 0
|
8月前
|
机器学习/深度学习 自然语言处理 算法
48_动态架构模型:NAS在LLM中的应用
大型语言模型(LLM)在自然语言处理领域的突破性进展,很大程度上归功于其庞大的参数量和复杂的网络架构。然而,随着模型规模的不断增长,计算资源消耗、推理延迟和部署成本等问题日益凸显。如何在保持模型性能的同时,优化模型架构以提高效率,成为2025年大模型研究的核心方向之一。神经架构搜索(Neural Architecture Search, NAS)作为一种自动化的网络设计方法,正在为这一挑战提供创新性解决方案。本文将深入探讨NAS技术如何应用于LLM的架构优化,特别是在层数与维度调整方面的最新进展,并通过代码实现展示简单的NAS实验。
397 0
|
10月前
|
Web App开发 Linux 虚拟化
Omnissa Horizon 8 2506 (8.16) - 虚拟桌面基础架构 (VDI) 和应用软件
Omnissa Horizon 8 2506 (8.16) - 虚拟桌面基础架构 (VDI) 和应用软件
509 0
Omnissa Horizon 8 2506 (8.16) - 虚拟桌面基础架构 (VDI) 和应用软件
|
10月前
|
机器学习/深度学习 数据采集 存储
技术赋能下的能源智慧管理:MyEMS 开源系统的架构创新与应用深化
在全球能源转型与“双碳”战略推动下,MyEMS作为基于Python的开源能源管理系统,凭借模块化架构与AI技术,助力重点用能单位实现数字化、智能化能源管理。系统支持多源数据采集、智能分析、设备数字孪生与自适应优化控制,全面满足国家级能耗监测要求,并已在制造、数据中心、公共建筑等领域成功应用,助力节能降碳,推动绿色可持续发展。
324 0
|
11月前
|
人工智能 数据可视化 Java
什么是低代码(Low-Code)?低代码核心架构技术解析与应用展望
低代码开发正成为企业应对业务增长与IT人才短缺的重要解决方案。相比传统开发方式效率提升60%,预计2026年市场规模达580亿美元。它通过可视化界面与少量代码,让非专业开发者也能快速构建应用,推动企业数字化转型。随着AI技术发展,低代码与AIGC结合,正迈向智能化开发新时代。
|
11月前
|
存储 人工智能 缓存
AI应用爆发式增长,如何设计一个真正支撑业务的AI系统架构?——解析AI系统架构设计核心要点
本文AI专家三桥君系统阐述了AI系统架构设计的核心原则与关键技术,提出演进式、先进性、松耦合等五大架构法则,强调高并发、高可用等系统质量属性。通过垂直扩展与水平扩展策略实现弹性伸缩,采用多类型数据存储与索引优化提升性能。三桥君介绍了缓存、批处理等性能优化技术,以及熔断隔离等容灾机制,构建全链路监控体系保障系统稳定性。为构建支撑亿级业务的AI系统提供了方法论指导和技术实现路径。
1230 0

相关产品

  • 函数计算