给 Agent 划边界:权限、审批、回滚,上线前要定的 5 件事

简介: Agent 能主动调用工具,是特点也是风险。上线前把 5 件事定下来:权限最小化、工具沙箱、预算熔断、人工审批、可观测回滚。5 项都打勾,再让 Agent 放心干活。

Agent 最大的特点,也是最大的风险:它能主动调用工具。上一篇文章聊了怎么选一个"敢用"的模型,这一篇聊更实际的问题——模型选好了,怎么让它放心干活?

给 Agent 划边界,不是限制它的能力,而是让它在可控范围内自由发挥。上线之前,这 5 件事值得先定下来。

一、身份权限:最小化

Agent 用什么身份执行任务,决定了它能碰到什么。

常见的做法是给 Agent 开一个独立账号,只授它实际用到的权限:读写哪些表、调哪些接口、访问哪些目录,按需开通;数据库的敏感字段、生产环境的配置,默认拒绝访问,用到再单独开。

用最小权限身份跑 Agent,即便工具调用出错,影响面也只在授权范围内。

二、工具沙箱:隔离执行

涉及文件读写、代码执行、系统命令的 Agent,建议在隔离环境里跑——容器或沙箱都行,出问题关掉重开,不影响主环境。

第三方工具(比如接入的 MCP server)接入前,值得先过一遍它声明了哪些权限、能访问哪些资源。高危写操作——删除、覆盖、转账、对外发消息——默认关闭,只在明确需要时按场景放开。

三、预算配额:熔断兜底

模型调用是实打实的成本,失控的 Agent 会在重试循环里把钱烧掉。

上线前定几个数:单任务的 token 上限、单位时间的调用次数、月预算红线。超过上限自动熔断,停止调用并告警。熔断防的不是正常使用,是出 bug 时的无休止重试。

四、人工审批:关键动作卡点

有些操作不可逆,或会对真实世界产生影响:发邮件、付款、删数据、改配置。

这类动作建议设为"Agent 提议、人工确认":Agent 把要执行的内容准备好,推给人工审批,确认后才真正执行。审批点不需要多,覆盖不可逆和对外影响这两类就够。

五、可观测与回滚:出了问题能还原

没有日志的 Agent 等于盲跑。上线前把链路日志接好:哪个任务、调了哪个工具、传了什么参数、返回了什么结果,全程留痕。

数据改动最好带备份或版本管理,改错了能回滚。出了问题先还原,再排查,比现场救火省心得多。

上线前自查清单:

  1. Agent 用的是最小权限身份吗?
  2. 文件/代码操作在隔离环境里吗?
  3. 预算和调用次数有上限、超限会熔断吗?
  4. 不可逆操作有人工审批点吗?
  5. 全程有日志、能回滚吗?

5 项都打勾,再让 Agent 上线。先画边界,再谈能力。

目录
相关文章
|
1月前
|
人工智能 API 开发工具
把 API 包成 MCP server:怎么做、值不值、坑在哪
本文讲API服务商最实际的问题:手上的API要不要包一层MCP?给出三个判断标准,三条实现路线(官方SDK手写/FastMCP从OpenAPI生成/云厂商工具集),以及上线前必须处理的5个细节——工具描述、参数校验、入站鉴权、字段投影、可观测。附首版验收4条标准与投入产出账。
452 2
|
1月前
|
人工智能 安全 API
MCP 是 API 的下一层?先搞清楚它到底解决什么问题
MCP 是 API 的下一层吗?本文讲清 MCP 解决的 N×M 集成问题、与 API 的本质区别、适用场景和当前已知风险,给 API 服务商一个冷静的接入建议。
432 1
|
1月前
|
设计模式 缓存 安全
Agent Harness 深度拆解:从一个类比推导出 12 个组件
本文另辟蹊径,不罗列12个组件,而是以“裸LLM=无内存/硬盘/I/O的CPU”为心智模型,用第一性原理推导出长周期任务必然引发的5大问题(上下文腐化、错误累积、跨会话失忆、权限越界、无法自验),再逐一对映12个组件为何必然存在——讲清Harness不是设计模式,而是必须跑起来的运行时系统。(239字)
|
1月前
|
人工智能 自然语言处理 数据挖掘
阿里云Qwen3.8-Flash大模型介绍:模型能力、功能、适用场景、收费标准与便宜购买技巧
本文系统介绍阿里云通义千问体系的高性能旗舰大模型Qwen3.8-Flash:基于2.4万亿参数MoE架构,在保留旗舰能力的同时,针对速度、并发、成本与实时响应进行优化,定位为兼顾复杂能力与高吞吐响应的大模型。它具备编程与办公能力跃升、原生视觉理解贯穿规划执行验证、超长文档与长视频深度语义解析、长程任务自主规划与闭环迭代等能力,可胜任法律、金融、设计等数百种专业任务并端到端交付,适用于AI编程、智能办公、多模态分析与企业智能体等场景。收费按Token、多模态输入与上下文长度计费。
|
1月前
|
人工智能 数据可视化 API
阿里云百炼大模型官网入口:百炼介绍、AI模型免费千万Tokens及问题解答FAQ
阿里云百炼是面向企业与开发者的AI模型服务平台,集成通义千问及DeepSeek、Kimi等主流第三方模型,提供模型调用、应用构建、知识库、定制微调等全链路能力,新用户免费领超7000万Tokens。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens
618 0
|
1月前
|
编解码 自然语言处理 数据可视化
2026 年通义千问 Qwen-image-3.0 全解析:模型底层架构、核心能力与落地实战教程
在AI图像生成赛道持续迭代的阶段,图像模型早已不再只追求画面的美学效果,能否稳定生成包含可读文字、复杂版面布局、符合现实物理细节的图片,成为判断模型生产价值的关键指标。早期文生图模型普遍存在文字错乱、小字模糊、长提示词理解断裂、多元素版面逻辑混乱等痛点,在试卷排版、报刊版面、产品说明书、网页界面设计这类强文字依赖场景中很难落地。Qwen-image-3.0作为第三代图像生成基础模型,围绕“内容丰实、细节真实、知识厚实”三大方向完成全面升级,将图像生成从创意绘图工具升级为能够承接企业内容生产需求的多模态生产力底座,本文将从模型定位、技术架构、六大核心功能、提示词设计方法、多语言API调用以及高频
864 0
|
1月前
|
安全 API 数据库
给 Agent 选模型:先别问哪个聪明,问哪个你敢用
很多人在给 Agent 选模型时只看跑分和榜单,但对生产环境来说,更关键的问题是"哪个模型你敢用"。本文从工具调用正确率、拒答能力、长任务稳定性三个指标出发,讲怎么建自己的评估集、分阶段选型,以及选模型时容易忽略的 API 通道稳定性问题。
140 0
|
1月前
|
人工智能 缓存 测试技术
美团31万行AI重构复盘里,最值得测试团队抄的不是工具
本文基于美团31万行AI重构实践,指出AI Coding加速下测试需从执行回归转向风险定义:聚焦高风险边界识别、可验证证据构建与质量门禁建设,推动测试前移,成为AI研发规模化落地的关键保障。(239字)
|
1月前
|
缓存 运维 API
同一个模型,为什么不同渠道报价差这么多?
同一模型多渠道报价,价差一倍不奇怪。本文讲透定价来源、渠道差价逻辑和5步自查清单,帮你判断API报价是否合理。
300 0
|
2月前
|
人工智能 安全 决策智能
离谱!AI 只会聊天也敢叫 Agent?14.9k Star OpenHarness 给它套上“安全马具”
OpenHarness 是一个开源 Agent Harness,把工具、技能、记忆、权限、MCP 与多智能体协作装进一套可扩展的 Python 基础设施,并提供 ohmo 个人 Agent。
342 0