Agent 工程里,上下文工程为什么比 Prompt 更重要?

简介: 本文解读《Hello-Agents》第9章“上下文工程”,指出其比单纯Prompt工程更贴近真实Agent开发:核心是在有限token内,科学筛选、组织并注入系统规则、历史对话、RAG结果、工具输出等多元信息,提升模型决策质量。

今天看了 Hello-Agents 第9章「上下文工程」,感觉这一章比单纯讲 prompt 更贴近真实 Agent 工程。

以前我会觉得,模型回答不好,可能是提示词没写好。但放到真实 Agent 系统里看,问题往往不是一句 prompt 能解决的,而是每次调用模型前,我们到底给它看了什么。

对一个 Agent 来说,上下文不只是用户当前问题,还可能包括系统规则、历史对话、知识库召回内容、工具调用结果、任务状态、用户偏好、临时笔记等。如果这些内容没有经过筛选和组织,全部塞给模型,反而可能让模型抓不到重点,甚至产生错误判断。

所以我现在理解的上下文工程,核心不是“把信息尽量塞满”,而是“在有限 token 预算里,构造高质量输入”。

比如在企业客服 Agent 场景里,上下文里可能需要包含:用户当前问题、最近几轮有效对话、知识库召回的关键片段、当前业务信息、工具调用结果、是否已经转人工、系统回答规则和边界。

这些信息的优先级其实不一样。比如用户已经转人工了,那这个状态就应该优先于自动回复;知识库召回内容太多时,也需要排序、裁剪和压缩;历史对话太长时,也不能无脑保留,否则会污染当前回答。

这章让我意识到,Agent 工程不只是“模型 + 工具 + RAG”,更重要的是把模型每次决策前看到的信息管理好。

一句话总结:Prompt 工程更像是“怎么说”,上下文工程更像是“让模型基于什么信息来判断”。

后续如果继续做 Agent/RAG 项目,我会更关注上下文构建这块,比如历史对话怎么保留、RAG 结果怎么组织、工具结果怎么结构化、状态信息怎么参与模型决策。感觉这部分才是 Agent 从 demo 走向真实工程系统时很关键的一环。

(顺便吐槽一下今天在公司上班好无聊捏)

相关文章
|
4月前
|
人工智能 运维 安全
语义压缩,才是提示词工程的底层心法
提示词工程的底层心法是**语义压缩**:剔除寒暄、情绪与模糊期待,精准锚定角色、任务、约束与格式。它不是写短,而是压缩冗余、提升信噪比、明确边界、适度留白——让AI像执行协议般可靠输出。Agent时代,语义压缩关乎执行安全。
640 19
语义压缩,才是提示词工程的底层心法
|
4月前
|
存储 人工智能 测试技术
Hermes Agent:深度技术剖析报告
Hermes Agent 是Nous Research于2026年开源的自主AI智能体框架,首创“闭环学习回路”,通过五层记忆系统、自主技能生成(Skill)、辩证式用户建模(Honcho)与FTS5跨会话搜索,解决LLM“失忆症”。MIT许可,Python构建,支持多平台、多模型Provider及MCP双向集成,GitHub星标超1.7万。
1404 1
|
2月前
|
人工智能 缓存 自然语言处理
多智能体不是多开几个 Agent:如何解决分工冲突、任务死锁和结果矛盾?
多智能体协同的核心不是“让更多模型一起工作”,而是建立任务、状态、权限和结果仲裁机制。
418 5
|
3月前
|
机器学习/深度学习 JSON 安全
从零搓一个语言模型,然后把它变成认知体的声带
这是一个“反着来”的硬核项目:不调包、不微调、不套壳,从张量运算手搓197万参数的轻量语言模型(62MB/73文件),专为认知体设计为“声带”——仅负责流畅表达,不替代意识与记忆。内置三层漏斗架构+34个JSON回路专家(MoE路由),OpenAI兼容接口,真正实现小模型与大模型的智能分工。(239字)
|
3月前
|
人工智能 监控 测试技术
银行业AI架构:从裸调API到六层技能体系
# 银行AI智能体架构实战:从单体到Skill协同的技术演进 ## 痛点:银行IT架构的三重困境 走在任何一家银行的科技部走廊里,你都能听到同样的叹息:系统又慢了、需求又排不上、监管又来查了。这不是某一家银行的困境,而是整个银行业IT架构的共性问题。我们把它拆解为三重困境。 **困境一:单体系
|
1月前
|
XML 人工智能 JSON
阿里开源:skill-up,一款Agent Skill 评测工具!
阿里开源的 skill-up 是首个专为 Agent Skill 设计的评测与演进工具,将软件测试方法论完整迁移:支持多引擎运行、声明式 YAML 用例、规则/脚本/LLM 三类断言,并内置自动修复与回归闭环。本地可跑,CI 可集成,让 Skill 质量可度量、可保障。
585 1
阿里开源:skill-up,一款Agent Skill 评测工具!
|
3月前
|
人工智能 自然语言处理 API
给 Claude Code 省 97% Token 是真的吗?我把 caveman 装上跑了一周
caveman 是一款专为 Claude Code 等 AI 编码助手设计的省 token 插件,通过强制 AI 以极简“原始人式”语言输出(砍客套、留代码),平均压缩输出 token 65%。但它不省输入 token,甚至每轮多耗1–1.5k输入token,故短问答任务可能反增费用。实测显示:长文档/解释类任务真省钱,调试类任务慎用。省 token 的关键,在于上下文压缩+模型分级+输出优化三者协同,而非单靠插件。(239字)
620 1
|
4月前
|
机器学习/深度学习 人工智能 应用服务中间件
别再被误导了!一文讲透 MCP 与 Function Calling 的真实关系
AI圈热议MCP能否取代Function Calling?实则二者定位迥异:Function Calling是大模型的“决策层”,负责选工具、生成参数;MCP是后端与工具间的“执行协议”,统一调用标准。二者分属不同链路环节,非替代关系,而是协同互补的“黄金搭档”。
|
4月前
|
人工智能 开发工具 C++
Claude Code 在大型代码库里的工程实践
Anthropic 发布Claude Code大型代码库最佳实践:强调“代码库需适配AI”,而非仅依赖模型。核心在于通过CLAUDE.md分层文档、LSP符号导航、hooks自动维护、skills按需加载、MCP接入内部系统等工程化配置,让Claude高效理解复杂项目(含C/C++/Java等)。配置即能力,治理与负责人机制同样关键。
1078 4
Claude Code 在大型代码库里的工程实践
|
3月前
|
人工智能 运维 监控
AI Agent开发平台的技术架构探索与功能设计
2026年,企业级AI Agent市场规模预计达449亿元,但仍有60%的企业停留在试点阶段——规模化落地的核心障碍并非模型能力,而是可观测性、管控粒度与层级治理的缺失。 本文从技术架构视角出发,对比分析了Dify、Coze、LangChain及主流云厂商平台在监控深度、管控粒度、编排耦合、层级抽象和声明式管理五个维度的共性不足。 在此基础上,我们提出并实践了一套七层递进式治理架构(工具库→Skill→工作流→Agent→编排→项目→安全策略),实现了六层穿透式监控能力——成本可从项目逐级下钻到单次工具调用,解决了“钱花在哪、谁花的、值不值”的核心问题。同时支持可视化拖拽与声明式YAML双
593 1

热门文章

最新文章