我在平台与 AIGC 的交互的组件设计方案 (2)

简介: 上一篇梳理到我在平台与 AIGC 的交互的组件设计方案,进行了交互的设计架构,而进一步结合 IM 整合,将进一步阐述优化交互流程。同时到这步环节引入体验人员来验证 LLM 对工程师的提升效果,同时体现出超级工程师个体。

软件工程师罗小东,多年架构和平台设计经验,目前在研究平台与新技术结合中。

回顾

上一篇梳理到我在平台与 AIGC 的交互的组件设计方案,进行了交互的设计架构,而进一步结合 IM 整合,将进一步阐述优化交互流程。同时到这步环节引入体验人员来验证 LLM 对工程师的提升效果,同时体现出超级工程师个体。

体验人员介绍:测试工程师,前期有半年的时间跟进学习平台技术,熟悉平台的场景和使用流程。

引入测试工程师主要目标是进行过程的交互体验,以更好的验证这个过程,以体现 LLM 结合对人员能力提升的效果,后期将通过体验结果来进一步形成超级工程师个体。

概述

书接上文。

LLM 的推理能力和 GC 内容生成,为了更进一步的优化和结合多 Agent 的结合,在这里进行了自定义的 GC 的交互方式,自定义了一个简单的 IM,以便于更好的管理。主要的目标是为了将难用的可视化管理界面进行尽量的规避,统一通过与 Agent 与员工的交互来进行整体平台的管理,形成类似于 ChatOps 的工具,但是在 LLM 上会更强大。

以下为交互管理界面:

在这个过程中,虚拟出多个 Agent 个体,这里分成了多个团队和多个细化的个体,通过不断的加入群交互,通过测试工程师的调用和工程师审核,来进一步的完成多个工作结果,比如对虚拟需求团队、虚拟工程师团队、虚拟架构师团队等的管理把控,在不满足的情况下,不断的加入新的工程师来进行交互工作,直到完成一个闭环作业。

以下为虚拟的工程师团队:

这里跟 AutoGPT 之类的区别在于,这里引入 LLM 是为了更好的促进超自动化,来解决平时工作中的问题,通过超级个体和 Agent 角色的结合来完成这个目标,而不是类似于一开始就是完全自动,在这个阶段,我们对 LLM 的定位依然还是辅助角色。以下为相关的设计思路:

  • 定义团队和多个 Agent 角色分工
  • 定义 Agent 流程和审核方式,交互方式,流程编排
  • 多频道 (群) 和多 Agent 协作

每个团队的设计思路都有自己的方案,上面是我们在这个过程中的一些实践经验,每个架构师有自己的思维,我有我思。

设计思路

这里的设计并不会有太多复杂的定义,整个过程以解决实践工作问题为主。

定义团队和多个 Agent 角色分工

为了更好的进行 Agent 角色的定义,进行多个角色的拆分,拆分的目标是为了更好的聚合,将每一项工作进行细化,形成独立的 Agent 角色,进而通过多个角色的聚合,形成一个闭环工作。以下是目前细化的团队和 Agent,主要包括:

  • 人才管理专家团队
  • 解决方案架构师团队
  • 技术工程师团队
  • 数据挖掘分析团队
  • 自动化运维管理团队
  • 业务运营专家团队

以下为相关设计图:

在形成多个 agent 之后,调试好 Prompt 指令,确保结果达到可用或者说可以达到初步讨论的地步,目前还无法做到 100%,所以在 IM 交互上,添加了工程师审核的步骤,审核的意见来源来自于经验的积累和平时的讨论,目前这步暂时先这么处理。

定义 Agent 流程和审核方式,交互方式,流程编排

在增加到一定的 Prompt 指令,通过服务和流程编排的形式来进行每个角色的定义,当前以硬编码和自定义节点来处理,流程工具使用的是_LiteFlow_,暂时没有配置可视化的流程界面,主要的考虑在于定制化的内容较高,前期在研究调试阶段,以定制化编排为主。

以下为数据库设计聚合流程:

这样的交互形式,在某个角度上面,比较容易实现 Agent 的标准化和准确结果。

多频道 (群) 和多 Agent 协作

假设说一个虚拟的角色或者多模态的角色会输出结果,这里可以定义和理解成它就是一个” 员工”,这里增加多频道主要是为了更好的在内部分享和结果共享,这样以更好的形成公司组织模式。通过增加频道的方式来进一步的集成多个 Agent 在工作台上面交互,或者集成多个结果进行交互管理,如下图:

这个过程上一个 Agent 的结果是下一个 Agent 的输入,测试工程师在这个过程的操作,主要是做审核校验,以确保上下结果的准确性,如果不准确,可微调或者重新生成。同时增加了知识库的交互,比如可以上传某份需求文档或者内容文档,进行更好的内容提取和推理,让 AIGC 结果更加准确。

总结

这个过程走下来的并不是说特别难设计,只是说新的概念为我们提供了新的思路,比如 Agent、超级个体、智能体等,并不会完全搬照,而是针对于实际的问题进行了取舍,有比较多” 完美” 的想法,也在一步步进行延伸,最终的目标是期望能自我演化,但是怎么做,这还在设计,比如记忆系统,演化系统,成长系统等都需要进一步的定义和设计,前期的目标是能形成超自动化的方向,后期也同步在研究。

也期望有兴趣的同学可以一起讨论,分享经验。

相关文章
|
5月前
|
机器学习/深度学习 存储 自然语言处理
基于AIGC的智能化数据资产盘点方案
基于AIGC的智能化数据资产盘点方案
240 2
基于AIGC的智能化数据资产盘点方案
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
AIGC 3D即将爆发,混合显示成为产业数字化的生产力平台
AIGC 3D即将爆发,混合显示成为产业数字化的生产力平台
|
5月前
|
存储 算法 数据库连接
[AIGC] 实现博客平台的推荐排行榜
[AIGC] 实现博客平台的推荐排行榜
215 1
|
5月前
用户使用、传播AIGC时,AIGC平台的责任边界
【2月更文挑战第13天】用户使用、传播AIGC时,AIGC平台的责任边界
186 6
用户使用、传播AIGC时,AIGC平台的责任边界
|
5月前
|
人工智能 UED
AIGC平台营收模式
【2月更文挑战第17天】AIGC平台营收模式
190 1
AIGC平台营收模式
|
5月前
|
人工智能 自然语言处理
内容生成与交付中,AIGC平台的责任边界
【2月更文挑战第13天】内容生成与交付中,AIGC平台的责任边界
73 3
内容生成与交付中,AIGC平台的责任边界
|
5月前
|
人工智能 安全 数据安全/隐私保护
社交媒体平台使用用户作品训练AIGC大模型,隐私和版权怎么算?
【2月更文挑战第13天】社交媒体平台使用用户作品训练AIGC大模型,隐私和版权怎么算?
138 2
社交媒体平台使用用户作品训练AIGC大模型,隐私和版权怎么算?
|
5月前
|
人工智能 算法 数据安全/隐私保护
AIGC变革下人工智能平台的算法黑箱问题
AIGC变革下人工智能平台的算法黑箱问题
317 1
AIGC变革下人工智能平台的算法黑箱问题
|
5月前
|
人工智能 安全 数据安全/隐私保护
AIGC内容检测方案初探
【1月更文挑战第15天】AIGC内容检测方案初探
136 1
AIGC内容检测方案初探
|
5月前
|
数据采集 运维 Kubernetes
我在平台与 AIGC 的交互组件一些设计经验
这里阐述以平台运营为主,这里假设说已经有一个平台,包括技术、数据、运维、管理、运营等基础设施的能力。 这个设计原来主要的问题是超自动化的提升,结合 LLM 为了更好的实现,在这个过程中,也包含了一些自主的感知和学习的能力,带有智能体的一定的特征。在前期的研究中也是不断的查看和摸索了很多的开源项目,包括一出来就热门的 Github 项目,但在使用遇到的情况更多的是还只是属于一些例子或者带有很多不稳定因素,并没有说见到能达到较稳定的层面。