Agent 工程里,上下文工程为什么比 Prompt 更重要?

简介: 本文解读《Hello-Agents》第9章“上下文工程”,指出其比单纯Prompt工程更贴近真实Agent开发:核心是在有限token内,科学筛选、组织并注入系统规则、历史对话、RAG结果、工具输出等多元信息,提升模型决策质量。

今天看了 Hello-Agents 第9章「上下文工程」,感觉这一章比单纯讲 prompt 更贴近真实 Agent 工程。

以前我会觉得,模型回答不好,可能是提示词没写好。但放到真实 Agent 系统里看,问题往往不是一句 prompt 能解决的,而是每次调用模型前,我们到底给它看了什么。

对一个 Agent 来说,上下文不只是用户当前问题,还可能包括系统规则、历史对话、知识库召回内容、工具调用结果、任务状态、用户偏好、临时笔记等。如果这些内容没有经过筛选和组织,全部塞给模型,反而可能让模型抓不到重点,甚至产生错误判断。

所以我现在理解的上下文工程,核心不是“把信息尽量塞满”,而是“在有限 token 预算里,构造高质量输入”。

比如在企业客服 Agent 场景里,上下文里可能需要包含:用户当前问题、最近几轮有效对话、知识库召回的关键片段、当前业务信息、工具调用结果、是否已经转人工、系统回答规则和边界。

这些信息的优先级其实不一样。比如用户已经转人工了,那这个状态就应该优先于自动回复;知识库召回内容太多时,也需要排序、裁剪和压缩;历史对话太长时,也不能无脑保留,否则会污染当前回答。

这章让我意识到,Agent 工程不只是“模型 + 工具 + RAG”,更重要的是把模型每次决策前看到的信息管理好。

一句话总结:Prompt 工程更像是“怎么说”,上下文工程更像是“让模型基于什么信息来判断”。

后续如果继续做 Agent/RAG 项目,我会更关注上下文构建这块,比如历史对话怎么保留、RAG 结果怎么组织、工具结果怎么结构化、状态信息怎么参与模型决策。感觉这部分才是 Agent 从 demo 走向真实工程系统时很关键的一环。

(顺便吐槽一下今天在公司上班好无聊捏)

相关文章
|
2月前
|
人工智能 运维 安全
语义压缩,才是提示词工程的底层心法
提示词工程的底层心法是**语义压缩**:剔除寒暄、情绪与模糊期待,精准锚定角色、任务、约束与格式。它不是写短,而是压缩冗余、提升信噪比、明确边界、适度留白——让AI像执行协议般可靠输出。Agent时代,语义压缩关乎执行安全。
411 19
语义压缩,才是提示词工程的底层心法
|
2月前
|
机器学习/深度学习 人工智能 应用服务中间件
别再被误导了!一文讲透 MCP 与 Function Calling 的真实关系
AI圈热议MCP能否取代Function Calling?实则二者定位迥异:Function Calling是大模型的“决策层”,负责选工具、生成参数;MCP是后端与工具间的“执行协议”,统一调用标准。二者分属不同链路环节,非替代关系,而是协同互补的“黄金搭档”。
|
26天前
|
机器学习/深度学习 JSON 安全
从零搓一个语言模型,然后把它变成认知体的声带
这是一个“反着来”的硬核项目:不调包、不微调、不套壳,从张量运算手搓197万参数的轻量语言模型(62MB/73文件),专为认知体设计为“声带”——仅负责流畅表达,不替代意识与记忆。内置三层漏斗架构+34个JSON回路专家(MoE路由),OpenAI兼容接口,真正实现小模型与大模型的智能分工。(239字)
|
2月前
|
存储 人工智能 测试技术
Hermes Agent:深度技术剖析报告
Hermes Agent 是Nous Research于2026年开源的自主AI智能体框架,首创“闭环学习回路”,通过五层记忆系统、自主技能生成(Skill)、辩证式用户建模(Honcho)与FTS5跨会话搜索,解决LLM“失忆症”。MIT许可,Python构建,支持多平台、多模型Provider及MCP双向集成,GitHub星标超1.7万。
887 1
|
1月前
|
人工智能 运维 监控
AI Agent开发平台的技术架构探索与功能设计
2026年,企业级AI Agent市场规模预计达449亿元,但仍有60%的企业停留在试点阶段——规模化落地的核心障碍并非模型能力,而是可观测性、管控粒度与层级治理的缺失。 本文从技术架构视角出发,对比分析了Dify、Coze、LangChain及主流云厂商平台在监控深度、管控粒度、编排耦合、层级抽象和声明式管理五个维度的共性不足。 在此基础上,我们提出并实践了一套七层递进式治理架构(工具库→Skill→工作流→Agent→编排→项目→安全策略),实现了六层穿透式监控能力——成本可从项目逐级下钻到单次工具调用,解决了“钱花在哪、谁花的、值不值”的核心问题。同时支持可视化拖拽与声明式YAML双
332 1
|
1月前
|
人工智能 自然语言处理 API
给 Claude Code 省 97% Token 是真的吗?我把 caveman 装上跑了一周
caveman 是一款专为 Claude Code 等 AI 编码助手设计的省 token 插件,通过强制 AI 以极简“原始人式”语言输出(砍客套、留代码),平均压缩输出 token 65%。但它不省输入 token,甚至每轮多耗1–1.5k输入token,故短问答任务可能反增费用。实测显示:长文档/解释类任务真省钱,调试类任务慎用。省 token 的关键,在于上下文压缩+模型分级+输出优化三者协同,而非单靠插件。(239字)
251 1
|
2月前
|
存储 人工智能 自然语言处理
知识库为谁而建 ?
随着 Agent 的逐步广泛应用,知识库的使用者正在从人变成 Agent。 知识库的设计逻辑、维护方式、甚至存在的意义,都需要重新思考。
695 10
知识库为谁而建 ?
|
2月前
|
人工智能 自然语言处理 算法
职场人转型AI,先找到原岗位和AI的结合点
2026年职场人转型AI,无需辞职重学!关键在于“原岗位+AI”融合:用熟悉业务场景(如HR简历筛选、运营内容生成、财务票据识别)作为AI落地切口,将经验升级为“AI能力放大器”。推荐考取CAIE认证——聚焦应用、零基础友好、企业认可度高,助你稳扎稳打成为懂业务、会工具、能落地的复合型数智人才。
|
29天前
|
人工智能
企业AI中台为什么要把AI工作助理放在第一优先级!
因为员工真正接触到的不是架构图,而是入口;组织真正积累下来的也不是功能清单,而是入口背后的使用数据、路由逻辑、能力目录和持续反馈。这些东西,才决定平台能不能从技术项目变成组织能力。
196 0

热门文章

最新文章