在函数计算上部署专属的Agent平台

本文涉及的产品
Serverless 应用引擎免费试用套餐包,4320000 CU,有效期3个月
函数计算FC,每月15万CU 3个月
简介: Agent 是公认的可以将AI能力跟具体业务结合的技术方案,而Agent Platform 是将Agent开发流程进行整合抽象后的平台工程,能够极大的提升Agent的构建和发布效率,帮助企业获取先机。本篇文章介绍如何在函数计算上部署一套Serverless架构的Agent平台- [AgentCraft](https://agentcraft-docs.serverless-developer.com/)

AgentCraft特性介绍

相较于其他的Agent平台,AgentCraft 以Serverless架构体系构建,对内核服务,前端管控,插件,模型服务,交付客户端进行模块化的设计,可以根据需要灵活的添加和删除模块。

AgentCraft 增加了云资源的管理能力,帮助用户自由获取和使用需要的云资源, 包括端到端的GPU模型服务,CPU插件函数以及独立的客户端交付。

使用场景

部署AgentCraft 您可以作为企业内部的 AI能力中心,向下对接Serverless GPU/CPU 算力, 向上交付业务AI应用,也可以作为个人开发者的工具,创建工作所需的智能体应用以及沉淀领域知识并且通过AI 的方式随时获取。也可以将其二开进行对外服务。

部署教程

一、产品开通

访问产品页进行开通,函数计算属于后付费产品,并且有大量免费额度,所以新同学可放心使用

二、使用应用模版快速创建

访问函数计算应用中心,切换到“人工智能”Tab

函数计算应用
选择 《智能体世界AgentCraft》应用进行创建

image.png

根据引导进行权限配置和信息填写

image.png

之后点击“创建应用”,等待1-2分钟即可部署成功,您可以访问自定义域名进入系统配置(注意该域名30天会过期,如需长期访问,请绑定自定义域名或者重新部署)

三、系统配置

AgentCraft部署成功后,访问自定义域名,进入系统配置

image.png

数据库配置

数据库配置有三种方案

方案1 采购阿里云Postgresql公网数据库【推荐】

您可以购买阿里云的RDS Postgresql数据库,获得最佳的数据体验,同时保障数据的安全性,购买后创建数据库的教程可以参考AgentCraft引导教程

image.png

方案2 使用共享体验数据库

这里的共享体验数据是由社区提供的公共数据库,仅供快速体验AgentCraft使用,存在数据风险,切勿用于生产

image.png

方案3 使用容器镜像部署可以公网访问的数据库

您可以在ECS上使用docker 拉取镜像部署pg 带有vector插件的数据库

镜像地址 registry.cn-hangzhou.aliyuncs.com/agentcraft/agentcraft-pg:v1

向量服务配置

AgentCraft可以帮助您创建一个在函数计算上部署好的向量服务,使用开源的bge-large-zh (1024维度)

image.png

image.png

最终确认您的配置

image.png

使用体验

注册登录

image.png

部署通义千问大语言模型服务

image.png

根据引导填写秘钥信息并点击下一步(该秘钥信息仅存储于您的函数计算服务)

image.png

体验简易问答+API输出

image.png

image.png

image.png

image.png

体验智能知识库

知识库是最常见的AI应用场景,AgentCraft 目前文档加载器基于langchain的扩展方案,支持pdf,markdown,txt,html等文件类型,后续会支持更多文件以及本地目录,检索目前基于向量的方案,

利用余弦近似值召回答案

数据集&数据源

数据集是AgentCraft的数据对象的一层抽象,可以对应搜索引擎数据的索引或者关系数据库的某个表,

数据源则是具体的表行数据

image.png

选取任意文档数据

image.png

接下来等待向量化完成即可

image.png

创建数据库智能体

image.png

关联数据集

image.png

image.png

体验智能助手

智能助手是大模型应用的进一步升级,可以让大模型调用各种工具,比如我们演示一个调用绘图工具的效果

执行工具

执行工具是最基础函数能力,AgenCraft可以将执行工具快速部署成可以被调用的服务,省去您本地构建还要花功夫部署的成本

这里提供了一些工具模板,我们可以选择“文生图”工具

image.png

执行工具部署成功后,新建智能助手类的智能体应用,然后进行工具的挂载和提示词描述

image.png

image.png

image.png

智能助手帮助您合成了一张漂亮的“午后晒太阳小猫咪图片”

总结

经过以上教程,您已经了解如何部署自己云上专属的智能体平台,同时了解如何使用它,在接下来的时间,我们会提供更丰富的AI能力,希望能够帮助您或者您的企业一起构建AI时代的业务价值。

相关实践学习
【文生图】一键部署Stable Diffusion基于函数计算
本实验教你如何在函数计算FC上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。函数计算提供一定的免费额度供用户使用。本实验答疑钉钉群:29290019867
建立 Serverless 思维
本课程包括: Serverless 应用引擎的概念, 为开发者带来的实际价值, 以及让您了解常见的 Serverless 架构模式
目录
相关文章
|
25天前
|
人工智能 Java Serverless
阿里云函数计算助力AI大模型快速部署
随着人工智能技术的快速发展,AI大模型已经成为企业数字化转型的重要工具。然而,对于许多业务人员、开发者以及企业来说,探索和利用AI大模型仍然面临诸多挑战。业务人员可能缺乏编程技能,难以快速上手AI模型;开发者可能受限于GPU资源,无法高效构建和部署AI应用;企业则希望简化技术门槛,以更低的成本和更高的效率利用AI大模型。
107 12
|
8天前
|
JSON 人工智能 Serverless
一键生成毛茸萌宠形象,基于函数计算极速部署ComfyUI生图系统
通过阿里云函数计算FC 和文件存储NAS,用户体验 ComfyUI 和预置工作流文件,用户可以快速生成毛茸茸萌宠等高质量图像。
一键生成毛茸萌宠形象,基于函数计算极速部署ComfyUI生图系统
|
2月前
|
算法 Serverless
通过函数计算部署ComfyUI以实现一个AIGC图像生成系统
快来报名参与ComfyUI活动,体验一键部署模型,生成粘土风格作品赢取体脂秤。活动时间从即日起至2024年12月13日24:00:00,每个工作日限量50个,先到先得!访问活动页面了解更多详情。
161 54
|
3天前
|
运维 Cloud Native Serverless
Serverless Argo Workflows大规模计算工作流平台荣获信通院“云原生技术创新标杆案例”
2024年12月24日,阿里云Serverless Argo Workflows大规模计算工作流平台荣获由中国信息通信研究院颁发的「云原生技术创新案例」奖。
|
30天前
|
消息中间件 运维 安全
C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验
游戏行业蓬勃发展,作为国内领先的 STEAM 游戏饰品交易的服务平台,看 C5GAME 如何利用 RocketMQ Serverless 技术,为千万级玩家提供流畅的游戏体验,同时降低成本并提升运维效率。
107 10
C5GAME 游戏饰品交易平台借助 RocketMQ Serverless 保障千万级玩家流畅体验
|
22天前
|
Serverless 开发工具 开发者
活动实践 | 西游再现,函数计算一键部署 Flux 超写实文生图模型部署
这些图片展示了阿里巴巴云开发者生态的多个方面,包括开发工具、技术文档、社区交流、培训认证等内容,旨在为开发者提供全方位的支持和服务。
|
2月前
|
自然语言处理 搜索推荐 Serverless
基于函数计算部署GPT-Sovits模型实现语音生成
阿里云开发者社区邀请您参加“基于函数计算部署GPT-Sovits模型实现语音生成”活动。完成指定任务即可获得收纳箱一个。活动时间从即日起至2024年12月13日24:00:00。快来报名吧!
|
2月前
|
弹性计算 算法 搜索推荐
活动实践 | 通过函数计算部署ComfyUI以实现一个AIGC图像生成系统
ComfyUI是基于节点工作流稳定扩散算法的新一代WebUI,支持高质量图像生成。用户可通过阿里云函数计算快速部署ComfyUI应用模板,实现个性化定制与高效服务。首次生成图像因冷启动需稍长时间,之后将显著加速。此外,ComfyUI允许自定义模型和插件,满足多样化创作需求。
|
2月前
|
弹性计算 自然语言处理 搜索推荐
活动实践 | 基于函数计算部署GPT-Sovits模型实现语音生成
通过阿里云函数计算部署GPT-Sovits模型,可快速实现个性化声音的文本转语音服务。仅需少量声音样本,即可生成高度仿真的语音。用户无需关注服务器维护与环境配置,享受按量付费及弹性伸缩的优势,轻松部署并体验高质量的语音合成服务。
|
2月前
|
弹性计算 人工智能 自然语言处理
魔搭社区与函数计算:高效部署开源大模型的文本生成服务体验
在数字化时代,人工智能技术迅速发展,开源大模型成为重要成果。魔搭社区(ModelScope)作为开源大模型的聚集地,结合阿里云函数计算,提供了一种高效、便捷的部署方式。通过按需付费和弹性伸缩,开发者可以快速部署和使用大模型,享受云计算的便利。本文介绍了魔搭社区与函数计算的结合使用体验,包括环境准备、部署应用、体验使用和资源清理等步骤,并提出了改进建议。

相关产品

  • 函数计算