大模型幻觉治理:从机理到生产级缓解方案
本文深入剖析大模型“幻觉”本质,指出其是架构性问题而非能力不足,并系统提出分层治理方案:从幻觉分类、根因分析(训练目标、知识存储、解码随机性),到评测方法、Prompt约束、受限解码、RAG增强、Guardrail兜底及训练优化,强调多层防御与人机协同。
OPC中国智能体成本控制:从 Token 预算到可观测性的工程实践
多步骤智能体会把一次用户任务扩展成多次模型和工具调用。本文以阿里云百炼的模型计费、上下文缓存和 Prompt 模板能力为参考,通过一个纯 Python 最小程序验证单任务预算、模型分级路由和超限阻断,并进一步说明怎样记录 Token、耗时、重试和质量结果。文中不假设固定模型单价,也不把模拟结果当作真实云上账单。
OPC中国智能体如何降低幻觉:从 RAG 知识库到可追溯评测的工程实践
本文面向个人开发者和小型 AI 项目,讨论 RAG 问答中“检索到了相似内容,但证据仍不足”的问题。文章以阿里云百炼知识库与工作流能力为参考,并使用一个纯 Python 最小程序验证来源召回和拒答逻辑。实验重点不是证明 RAG 可以消除幻觉,而是展示如何发现错误召回、增加证据覆盖检查并保留人工审批。
Agent 调用业务发起退款时,审批应该放在哪一层?
本文深入剖析“Human-in-the-loop”在Agent退款场景中的真实落地难点:审批不是简单弹窗,而是需分层设计的可验证责任边界——涵盖能力可达(Reach)、审批意图、决策归属与最终授权(Authority)四层。强调审批必须绑定参数快照、统一跨入口治理、隔离模型推理与执行,并由业务系统保留终审权。