玩转AIGC训练营:课时1:AIGC无处不在,把AI应用构建于Serverless之上
课时1:AIGC无处不在,把AI应用构建于Serverless之上
内容介绍
一、AIGC在行业场景中的应用
二、通用AI应用
三、Serverless平台的优势
四、AI应用构建于Serverless的优势
本节课将当下最火的两个概念AIGC和Serverless融合到一起,通过本节课的学习,可以发现Serverless是构建AI应用的最佳平台。
一、AIGC在行业场景中的应用
AIGC在行业场景中的应用很多,本节课主要了解其中典型的四个行业的应用场景。
1、电商行业
如今有很多的电商从业者开始使用如ChatGPT、Midjourney等智能产品武装自身,制作商品设计或商品图片。
从商品设计角度,一般商家会先使用ChatGPT做行业市场调查。
如清洁类产品的商家,他们会使用ChatGPT了解当前产品的痛点以及用户需求,以及自身产品的亮点,分别对应的用户的哪些需求;然后将ChatGPT得到的结果做进一步的内容的整合,让ChatGPT确定2-3个比较明确的设计方案,
如清洁产品来讲设计的策略是以强力的清洁和多功能为主,或是以香薰等功能为主;确定设计主题后,使用Midjourney软件生成相关的设计图。这样可以节省大量的人力成本,包括设计师人工费用、做市场调研的成本等。
再如服饰商家,为了推广产品,商家会邀请模特约拍,再修图上架。而现在可以使用stable + controlnt代替传统的模特拍图方式,节省大量的人力成本和时间成本,同时整体效果不打折扣。
2、医疗领域
目前比较通用的是与ChatGPT结合做医学知识问答,如一些较为冷门的疾病,其相应的从业者也较少,但其知识图谱相对完整,此时则可以将这些知识作为数据录入,再使用ChatGPT帮助用户做自然语言的解释,相较于自己学习晦涩的知识会方便很多,用户可以快速获取想要的相关信息。
3、编程领域
如Cursor、GitHub Copilot等工具可以帮助开发者做部分辅助编码,如常用处理文件的方法等可以由这些工具直接辅助生成,只需要开发者验证即可。同时,还可以利用这些工具做代码解读,如想要了解某个开源软件的实现是什么,这些工具可以快速得到结果。
4、办公领域
目前各种工具百花齐放,如阿里云的钉钉结合通义千问即将推出的魔法棒的能力,即可通过简单的指令呼出需求的功能,帮助用户做会议纪要、文档编写等工作,极大地提升了办公效率。
二、通用AI应用
1、基本了解
以上列出的场景都是离散且并不通用的AI型的应用,可能无法与实际业务结合。以下展示了通用AI应用的架构图:
如上图所示,用户通过自然语言输入到应用程序,应用程序中具有智能体Agent,其实质上是由提示工程加模型服务的调用构成的,将用户的输入与提示模板结合之后,作为大语言模型的完整输入,利用大语言模型作自然语言的解析及相应的逻辑推理,进而可以继续使用专业领域的模型,如图生文、图生图、文生视频模型实现多模态的能力,为大模型安装“眼睛”“耳朵”。
此外,还可以让大模型调用一些扩展,如数据库查询、搜索、计算等,这类似于于ChatGPT中的Plugin能力。此时即形成了一个通用的AI应用,它既能够理解自然语言,也能够接触物理世界,甚至可以拟人化的进行图文的识别。因此,本质上通用AI应用的最大特性就是可以与实际业务紧密结合。
2、通用AI 技术
在上面的内容中提到,本质上通用AI的核心是对于模型服务的调用,这是非常标准的FaaS + BaaS的结合,是无状态服务的调用。但实际的应用程序中也会包括数据的存储、缓存的能力,这类能力只需要通过BaaS的方式平滑地增加即可。这里提到的“扩展能力”是一种轻量但又非常频繁使用的能力。在“扩展能力”的理论上,我们可以无限增加,这意味着应用程序能够提供的服务上限很高,但需要支持上线、迭代的能力。因此,我们将其看作函数级别的能力。综上,通用AI应用与Serverless之间有许多相似点,包括FaaS + BaaS模式以及函数级的扩展能力。
三、Serverless平台的优势
1、满足通用AI应用扩展能力的诉求
2、极致弹性
Serverless平台可以快速帮助交付计算。当应用有大规模的流量爆发时,也无需担心因此导致系统宕机。
3、极致效率
以阿里云函数计算为例,其已经集成了90款云产品的服务,这些服务可以直接使用,增强应用的能力。
4、极致成本
Serverless平台按照实际使用收费,如果应用有明显的波峰和波谷,其对于使用者来说十分划算。且当服务作为商业产品交付给用户时,也可以作为吸引用户的核心的优势。
四、AI应用构建于Serverless的优势
从企业最关注的效益出发,即成本/效率、市场商机TimeToMarket以及系统的安全和稳定(包括可用性、可扩展性和质量)。
如下图所示:
AI应用与Serverless结合后,其需求皆可满足,包括AI Action能力以函数粒度快速构建发布,AI应用满足商业化、有SLA保障,AI应用具备多环境能力、完备的可预测实现,AI应用的多Agent异步实现,AI 应用多实例部署启动,AI应用无状态约束、AI应用无状态约束、集群多活。这意味当应用自开始构建在Serverless平台上开始,就无需再去担心其未来的长足发展,无需担心非业务侧的其他能力,如多活或单点故障以及水平扩展等能力,可以无后顾之忧地直接快速扩展商业。这是AI应用带来的优势,远比自建服务器或服务器集群更加方便。