❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦
🚀 快速阅读
- 平台简介:Kheish 是一个基于 LLM 的多智能体编排平台,支持多角色协作解决复杂任务。
- 主要功能:包括多智能体工作流、模块集成、聊天式提示、反馈循环等。
- 技术原理:通过任务管理器、上下文处理、工作流执行等技术实现智能体协作。
正文(附运行示例)
Kheish 是什么
Kheish 是一个基于大型语言模型(LLM)的多智能体编排开源平台,旨在通过多个专门的角色(智能体)和灵活的工作流来协调复杂任务的各个步骤。这些任务可能包括提案生成、审核、验证和格式化,最终产生高质量的结果。
Kheish 的特点在于其模块化和可扩展性,能够无缝集成外部模块,如文件系统访问、shell 命令和向量存储,从而丰富上下文并处理大型代码库或文档。此外,Kheish 支持聊天式提示和反馈循环,允许智能体在任务执行过程中进行迭代和优化。
Kheish 的主要功能
- 多智能体工作流:定义多个角色(如提议者、审阅者、验证者、格式化程序),并按照基于 YAML 的工作流配置顺序执行它们,处理复杂任务。
- 模块集成:集成多种模块,如文件系统访问(fs)、shell 命令(sh)、向量存储(vector_store)等,扩展功能和处理能力。
- 聊天式提示:与 LLM 的互动采用对话式结构,包括 system、user 和 assistant,维护上下文并澄清指令。
- 反馈和修订循环:工作流支持迭代反馈,如果审阅者或验证者发现问题,请求修订,直到解决方案满足标准。
- RAG 和嵌入:集成向量存储处理大型文档,模型能获取相关片段而不会使提示过载。
Kheish 的技术原理
- 任务管理器:负责加载任务配置(YAML)、处理上下文、运行工作流程,并按需集成模块。
- 上下文处理:任务管理器读取初始文件或文本,准备 TaskContext,为后续的智能体工作流提供上下文信息。
- 工作流执行:智能体按照定义的工作流顺序执行任务,包括生成解决方案、检查提案质量、确保最终正确性及输出验证结果。
- 模块请求调用:智能体能发出 MODULE_REQUEST 呼叫,获取其他数据、读取文件或执行语义搜索等。
- 结果缓存:为避免重复操作,Kheish 缓存代理请求模块的结果。
- 与 RAG 集成:与检索增强生成(RAG)模型集成,轻松处理大型文档,通过向量存储获取相关片段。
如何运行 Kheish
- 克隆仓库:
git clone https://github.com/graniet/kheish.git cd kheish
- 安装依赖:
- 安装 Rust 工具链(最新稳定版)。
- 设置
OPENAI_API_KEY
或其他相关环境变量。
- 构建项目:
cargo build --release
- 运行任务:
./target/release/kheish --task-config examples/tasks/audit-code.yaml
资源
- GitHub 仓库:https://github.com/graniet/kheish
❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦