6月27日,国标委下达了《智能体应用安全基本要求》强制性国家标准(国标委〔2026〕41号),项目周期18个月,归口中央网信办。文件列出了六项必须达标的安全能力:资产盘点与管理、身份认证与权限、知识库与数据管控、多模态内容防护、全链路审计追溯、应急处置与熔断。
知道有这六关是一回事。知道怎么过是另一回事。
过去几个月我们和不少企业安全负责人聊过,一个反复出现的困惑是:标准写了"要做什么",但没写"怎么做"。资产盘点听起来不复杂,真动手才发现散落在各个部门的API Key、开源模型、内部Agent根本数不清。身份权限也一样——IAM系统跑得好好的,但那是管人的,Agent和自动化工作流调AI的时候,IAM根本感知不到。
这篇文章不打算复述标准条文。我们把这六关逐一拆开,讲清楚每关到底卡在哪、怎么过。
第一关:资产盘点——看不见的东西没法管
企业AI资产远比想象中分散。公开的模型API Key散落在代码仓库、配置文件、聊天记录和共享文档里;内部部署的开源模型可能几个团队各跑各的;Agent和MCP工具链的调用路径连开发团队自己都没完整梳理过。还有一类容易被忽略的:员工自费购买的第三方AI工具账号,企业完全不知情,但发出去的数据是企业自己的。
41号文要求"全域调用可见可盘点"。关键不在盘点本身,而在找到一种不会漏的方式持续盘点。人工填表统计走不通——今天填完明天又变了。
最有效的做法是把所有AI调用收口到一个统一入口上,从流量侧自动发现所有调用关系,而不是靠人去申报。入口上线的那一刻,资产图谱自动就有了。之后每一次新增调用都会被自动注册,不需要任何人填表。
第二关:身份与权限——IAM管人,谁管Agent?
大多数企业已经有了成熟的IAM和SSO体系。但这些系统设计的时候,调用方是"人"。现在调用AI的不只是人,还有Agent、自动化脚本、CI/CD流水线、MCP工具链。
一个典型的翻车场景:研发部署了一个Agent,Agent调用大模型时用的是申请人的身份,但发起这次任务的其实是运营部门的自动化工作流。出了安全问题,IAM日志显示是研发在调用——可研发根本没操作过。
这关的解法不是换IAM,是在IAM之上叠加一层AI调用身份映射。真人员工认证走SSO,Agent和应用走服务账号或虚拟凭证,每种身份的权限粒度打到模型、操作、环境和额度级别。"最小权限"在这里不是口号,是可执行策略:某个Agent只能调DeepSeek V4,日上限500次,只能在生产环境使用。
第三关:数据管控——PII出境,不只是合规问题
员工把客户身份证号、手机号、合同条款直接贴进对话框的场景,比大多数人想象的普遍得多。有团队做过小范围摸底:在一家200人的技术公司,一周内检测到47次包含可识别个人信息的AI调用请求,其中12次发往境外模型。
41号文要求在数据进入外部模型之前完成识别和管控。这不是事后审计能解决的问题,数据一旦发出去了,就已经发出去了。
工程做法是在调用出口做实时检测:PII自动识别、敏感词过滤、按数据密级决定放行、脱敏还是阻断。身份证号自动打码、银行卡号直接拦截、内部项目代号做关键词白名单。这些不是概念,是已经在生产环境跑的规则。
第四关:多模态防护——提示词注入不是科幻片
提示词注入和越狱攻击在过去一年从论文变成了真实威胁。攻击者不需要拿系统权限,只需要在用户输入里嵌入几句指令,就能诱导模型绕过限制、泄露系统提示词、甚至执行非预期的工具调用。
传统WAF对这种攻击基本无效。提示词注入的payload是自然语言,WAF的规则引擎区分不了"正常提问"和"隐藏指令"。
有专门研究这个方向的论文。Anthropic花1700小时红队测试做了一套生产级越狱防御系统,核心思路不是单点检测,是多层:上下文判断、分级复核、推理时内部信号监控。普通企业不可能复刻这个投入,但架构思路可以借鉴。在请求发出前做注入识别,在响应返回前做越狱检测,不只是文本——图片、文件里的隐藏指令也覆盖。生产环境里已经出现过通过截图嵌入恶意提示词的攻击尝试。多模态不是加分项,是必选项。
第五关:全链路审计——没有证据链等于没发生
安全行业有句老话:你没记录的东西就没发生过。
41号文对审计的要求不只是"有没有日志",而是能不能还原一条完整证据链:谁、在什么时间、用什么身份、调了哪个模型、传了哪些数据、返回了什么、命中了哪些安全策略。
这意味着审计不是运维的附属品,是架构设计的一部分。日志要结构化、不可篡改、能按人、时间、模型、安全事件多维度检索。出事故的时候,监管问你要的不是"大概是这样的",是逐条可举证可回溯的记录。
第六关:应急处置——知道出事了和能止住是两回事
最后一关听起来基础,但在AI场景里有特殊性。
传统系统的应急处置通常靠运维层面的网络隔离或服务下线实现。AI调用的问题在于:一个泄露的API Key可能在几十个Agent、应用和脚本里同时使用,逐个下线不现实,速度也太慢。
这关的核心能力是凭证层面的集中吊销。控制面上点一下撤销,所有使用该凭证的执行点同时生效。配合异常检测——用量突增、失败率飙升、非工作时间大量调用——可以在人工发现之前自动触发熔断。
然后呢?
18个月听起来不短,但拆成合规整改项目来看:前3个月摸清现状,中间12个月逐步建设,最后3个月验证和补齐。时间不宽裕。
一个值得庆幸的地方是,这六关不是六座孤立的堡垒。资产盘点做清楚了,身份权限就有了对标对象;内容防护的拦截日志天然就是审计数据源;凭证集中管控同时解决身份和应急两关。它们是一套体系,不是六个独立项目。想清楚整体架构再动手,比逐个补丁式建设高效得多。