Serverless AI训练营：课时1：AIGC无处不在，把AI应用构建于Serverless之上（二）
课时1：AIGC无处不在，把AI应用构建于Serverless之上（二）
二、通用AI应用
1、基本了解
以上列出的场景都是离散且并不通用的AI型的应用，可能无法与实际业务结合。以下展示了通用AI应用的架构图：
如上图所示，用户通过自然语言输入到应用程序，应用程序中具有智能体Agent，其实质上是由提示工程加模型服务的调用构成的，将用户的输入与提示模板结合之后，作为大语言模型的完整输入，利用大语言模型作自然语言的解析及相应的逻辑推理，进而可以继续使用专业领域的模型，如图生文、图生图、文生视频模型实现多模态的能力，为大模型安装“眼睛”“耳朵”。
此外，还可以让大模型调用一些扩展，如数据库查询、搜索、计算等,这类似于于ChatGPT中的Plugin能力。此时即形成了一个通用的AI应用，它既能够理解自然语言，也能够接触物理世界，甚至可以拟人化的进行图文的识别。因此，本质上通用AI应用的最大特性就是可以与实际业务紧密结合。
2、通用AI 技术
在上面的内容中提到，本质上通用AI的核心是对于模型服务的调用，这是非常标准的FaaS + BaaS的结合，是无状态服务的调用。但实际的应用程序中也会包括数据的存储、缓存的能力，这类能力只需要通过BaaS的方式平滑地增加即可。这里提到的“扩展能力”是一种轻量但又非常频繁使用的能力。在“扩展能力”的理论上，我们可以无限增加，这意味着应用程序能够提供的服务上限很高，但需要支持上线、迭代的能力。因此，我们将其看作函数级别的能力。综上，通用AI应用与Serverless之间有许多相似点，包括FaaS + BaaS模式以及函数级的扩展能力。
三、Serverless平台的优势
1、满足通用AI应用扩展能力的诉求
2、极致弹性
Serverless平台可以快速帮助交付计算。当应用有大规模的流量爆发时，也无需担心因此导致系统宕机。
3、极致效率
以阿里云函数计算为例，其已经集成了90款云产品的服务，这些服务可以直接使用，增强应用的能力。
4、极致成本
Serverless平台按照实际使用收费，如果应用有明显的波峰和波谷，其对于使用者来说十分划算。且当服务作为商业产品交付给用户时，也可以作为吸引用户的核心的优势。
四、AI应用构建于Serverless的优势
从企业最关注的效益出发，即成本/效率、市场商机TimeToMarket以及系统的安全和稳定（包括可用性、可扩展性和质量）。
如下图所示：
AI应用与Serverless结合后，其需求皆可满足，包括AI Action能力以函数粒度快速构建发布，AI应用满足商业化、有SLA保障，AI应用具备多环境能力、完备的可预测实现，AI应用的多Agent异步实现，AI 应用多实例部署启动，AI应用无状态约束、AI应用无状态约束、集群多活。这意味当应用自开始构建在Serverless平台上开始，就无需再去担心其未来的长足发展，无需担心非业务侧的其他能力，如多活或单点故障以及水平扩展等能力，可以无后顾之忧地直接快速扩展商业。这是AI应用带来的优势，远比自建服务器或服务器集群更加方便。
