智能体(Agent)平台介绍

本文涉及的产品
简介: 2023年11月9日,比尔盖茨先生发布了《人工智能即将彻底改变你使用计算机的方式》文章,详尽阐明了Agent(智能体)这个新一代智能应用的技术理念。在个人助理、卫生保健、教育、生产率、娱乐购物、科技等领域有着广泛的应用场景,对于开发者而言是个巨大的机会, 本篇文章尝试从系统化的角度解决构建Agent的问题,探讨Agent平台化的方案。

引言

Agent在AI应用层面有巨大的潜力,然而今天对于开发者而言,构建Agent绝不是一件容易的事情,需要构建文本向量化,RAG(增强检索), 工具调用,长记忆存储,生成式Ui等多项技术能力,此外在Agent的交付,运维和内容安全等方面也有非常多的挑战,本篇针对以上挑战,尝试探索以解决Agent构建和交付的相关问题。

Agent平台

Agent介绍

Agent是指能自主感知环境并采取行动实现目标的智能体。基于大语言模型(LLM)的 AI Agent 利用 LLM 进行记忆检索、决策推理和行动顺序选择等。
image
更直观的可以理解为 Agent是具备理解自然语义并且进行实际行动和过程思考,最终完成人类指定任务的程序。

Agent应用案例

  • 比如你可以一句话要求智能体帮助完成订餐,购物,旅行规划等任务;
  • 比如你可以通过简单对话就能获取特性领域的知识;
  • 比如你可以通过设定任务,直接获得大量资讯简化总结后的内容。

Agent平台介绍

基础模型管理

image

除了基础大语言模型以外,构建实际业务场景的Agent往往需要更多的多模态模型来完成复杂任务,那么统一管理这些基础模型是有必要的

数据集

image

数据是知识的根源,Agent要输出有价值的知识,数据的准备是必不可少的,通常在Agent领域,数据是需要被进行向量转化的,这也是作为基础平台能力一种

工具构建能力

image

前面提到了智能体能够感知世界,他感知世界的载体就是工具,快速构建工具服务,并且进行高效安全的管理运维是有必要的

智能体编排

image

在基础模型,工具,数据这些要素都具备之后,对他们进行有效的排列组合是生成Agent关键的一步

能力交付

image

构建出来的智能体只有真正应用到实际业务中才能发挥价值,这时候Agent本身的交付就至关重要,基于平台,可以将智能体交付成一个api, 一个独立客户端,多个服务构建的群聊机器人以及可集成到已有站点多sdk或者脚本等

生成式UI

image

生成式UI属于交付特性的一种,但对于真正发布Agent的价值有着非常大的作用,因为人们需要的是更丰富的交互场景,而目前纯粹的LLM智能输出文字。

有无Agent平台构建Agent对比

Agent开发步骤 不基于Agent平台开发 基于Agent平台开发
数据准备 需要编写代码实现对不同数据源的处理,并进行向量化,持久化 可视化上传文件自动完成切片,向量化,持久化
LLM适配 基于闭源LLM编写代码进行API调用,或者使用开源进行兼容适配 提供兼容性的LLM接入方案,以及提供开箱即用的开闭源LLM应用模板
工具能力建设 需要设置本地环境,开发,调试,部署发布,运维 开箱即写,提供场景模版,一键发布,安全运维
智能体编排 需要代码编写提示词进行调试,复杂推理提示词需要结合推理架构进行编写,成本较高 可视化的提示词编写,所见即所得,内置主流推理架构,开发者只需关注业务关联的信息
安全兜底 自己处理内容安全,数据安全,应用程序安全等问题 集成成熟的安全方案, 包括内容,数据,应用程序等
前&后应用开发,部署 编码开发前后端的逻辑,并且需要部署服务器 服务端无代码生成,自动托管到云服务,前端支持自动化接入和模板化部署,并且支持定制UI

Agent平台技术方案

云上架构设计

image.png

功能技术拆解

核心模块

Agent平台的核心模块负责完成对外的api透出以及,领域模型的承载, 此外包含RAG 核心技术和AgentRuntime 在内,复用于不同场景构建出的智能体应用

数据处理

各类文本的非结构化数据,通过Bert模型进行向量转化,存储于向量数据库中,通过向量的近似匹配进行检索增强

基础模型

对基础模型的服务商进行托管或者将开源模型部署到函数计算之上,再通过中间协议层的打通可以实现不同基础大模型的无缝切换

执行工具

工具的构建和运行均有阿里云函数计算提供相应的服务, 结合内核的AgentRuntime可以无限扩展Agent的能力
image.png

客户端连接

通过构建连接层的服务,可以将智能体的能力跟钉钉,微信,浏览器等终端连接,解决用户使用AI能力最后一公里的问题

总结

Agent可以将业务能力跟LLM连接,已经非常确定其在AI应用落地中不可或缺,今天构建Agent的方案势必无法满足未来广泛爆发的需求,通过平台化的平台可以最大程度的缓解Agent供给不足的压力,更详细的Agent平台使用及介绍参考AgentCraft使用教程

目录
相关文章
|
1天前
|
开发框架 API 决策智能
ModelScope-Agent框架再升级!新增一键配置多人聊天,配套开源多智能体数据集和训练
ModelScope-Agent是魔搭社区推出的适配开源大语言模型(LLM)的AI Agent(智能体)开发框架,借助ModelScope-Agent,所有开发者都可基于开源 LLM 搭建属于自己的智能体应用。在最新升级完Assistant API和Tool APIs之后,我们又迎来了多智能体聊天室的升级,通过几分钟快速配置即可搭建一个全新的聊天室。
|
1天前
|
机器学习/深度学习 人工智能 自然语言处理
Agent AI智能体的未来角色、发展路径及其面临的挑战
Agent AI智能体的未来角色、发展路径及其面临的挑战
|
5天前
|
存储 人工智能 API
文心大模型的智能体(Agent)平台
文心智能体平台是百度推出的大模型开发平台,支持各类开发者创建个性化智能体(Agent)和AI插件。平台提供零代码、低代码工具,让不同能力的开发者能轻松构建智能体,同时具备大模型的强大能力,如内容创作和多模态生成。智能体具备主动思考、理解和记忆功能,可在多个场景下与用户互动。AI插件则扩展了大模型的应用,包括信息检索、多模态交互和服务自动化等。平台还提供流量分发,助力商业闭环。了解更多:[文心智能体平台介绍](https://chatgpt.ciilii.com/show/news-715.html)。
|
9天前
|
安全 API 开发者
智能体-Agent能力升级!新增Assistant API & Tools API服务接口
ModelScope-Agent是一个交互式创作空间,它支持LLM(Language Model)的扩展能力,例如工具调用(function calling)和知识检索(knowledge retrieval)。它已经对相关接口进行了开源,以提供更原子化的应用LLM能力。用户可以通过Modelscope-Agent上的不同代理(agent),结合自定义的LLM配置和消息,调用这些能力。
|
9天前
|
人工智能 数据安全/隐私保护 UED
Agent AI智能体的未来
Agent AI智能体的未来
|
9天前
|
监控 Unix Windows
Zabbix【部署 04】 Windows系统安装配置agent及agent2
Zabbix【部署 04】 Windows系统安装配置agent及agent2
208 0
|
9天前
|
缓存 监控 安全
zabbix服务器监控之了解agent的启动过程
zabbix服务器监控之了解agent的启动过程
10 0
|
9天前
|
监控 网络协议 Unix
centos7 zabbix安装客户端agent -配置监控远程主机 在需要监控的电脑上安装
centos7 zabbix安装客户端agent -配置监控远程主机 在需要监控的电脑上安装
34 0
|
9月前
|
存储 数据采集 缓存
【运维知识进阶篇】Zabbix5.0稳定版详解9(Zabbix优化:高并发对MySQL进行拆分、Zabbix-agent主动上报模式、使用proxy代理模式、系统自带监控项优化、进程优化、缓存优化)
【运维知识进阶篇】Zabbix5.0稳定版详解9(Zabbix优化:高并发对MySQL进行拆分、Zabbix-agent主动上报模式、使用proxy代理模式、系统自带监控项优化、进程优化、缓存优化)
254 0
|
10月前
|
运维 监控
【运维】在zabbix-server的web界面配置agent主机监控
【运维】在zabbix-server的web界面配置agent主机监控

热门文章

最新文章