review-verdict-revise-verify:语义也需要一道闸门

简介: 本文提出“语义闸口”理念:在AI生成Web UI的流程中,将负载安全逻辑从模型移至确定性编排,通过模式库、契约库与验证工具集三层Harness,锁住语义边界——确保“意思不漂移、样式可演进”,实现端到端可信。(239字)

Wu 等(2026)在论文审查领域做了一个闭环系统:

review → verdict → revise → verify

论文提交后,先审查、再裁决、再修订、再验证——四轮之后才允许进入下一环节。

这个闭环的核心设计,不是让 AI 自由裁量。

而是把**"负载承载的安全逻辑"从模型手里拿走,放到确定性编排**中。


一、审查可以交给 Agent,但裁决不能

审查可以交给 Agent。

判断可以交给 Agent。

修复也可以交给 Agent。


但——

什么时候停止?
什么时候阻断?
什么绝对不能改?


这些由硬逻辑说了算。

不由模型说了算。


这意味着:概率性生成的不确定性,被确定性规则锁在边界之内。Agent 在边界里面发挥理解力,边界本身不容谈判。


二、Code-Text-Code 的启示

《Specification-Based Code-Text-Code Reengineering》在代码层验证了一件事:

在转换链条中插入一层受控的规范层,把意思和语法解耦。

源代码和目标代码的语法完全不同,但中性文本规范把"意思"固定下来——无论怎么转换,意思不会漂移。


我在语义层做同样的事。

设计意图 → 语义契约 → Agent 生成 Web UI


设计意图是设计师脑子里的"这个场景下不能做什么":

  • 删除账户必须是红色空心
  • 必须二次确认
  • 文案必须说明不可恢复

Agent 生成 Web UI 时,样式可以变,框架可以变,但语义必须先被规范锁住。


两者都在做同一件事:在生成之前,先把意思固定下来。

论文用自然语言规范来解耦代码语法和代码语义。我用 YAML 语义契约来解耦 Web UI 样式和 Web UI 语义。


样式可以变,但语义必须被规范锁住。

不能变的(硬逻辑)

可以变的(AI Agent)

Critical 不能变成严重

文案措辞可以微调

删除不能变成确认

按钮大小可以调整

四种错误不能共用同一种红色

动画效果可以替换


三、Agent = Model + Harness

阿里云原生在拆解 Agent 底座时,给了一个等式:

Agent = Model + Harness

Model 是大脑。Harness 是缰绳。


没有 Harness 的 Agent 是脱缰的——它能跑,但不知道往哪跑,更不知道什么不能跑。

这比"安全对齐"更诚实。安全对齐试图让模型"自己知道什么该做、什么不该做",但概率性生成的不确定性决定了,模型不可能 100% 自律。


Harness 不依赖模型的自律。它在外部给模型套上一层规矩——

你不需要懂为什么,你只需要按规矩执行。


Harness 的核心是约束基建。规矩必须:

  • 可审计——写了什么、什么时候改的、谁改的,有迹可循
  • 可进化——业务变了,规矩跟着变,版本化管理,Diff 可见


阿里云在业务逻辑层和数据层做了这件事。

但当 Agent 的输出流向 Web UI 时,约束链断了。


四、约束链的断层

想象一条流水线:

数据层定义了字段语义
    ↓
业务层定义了规则语义
    ↓
策略层定义了模型标签语义
    ↓
Agent 生成了一段文案、一个按钮、一个错误提示
    ↓
用户看到了


数据层有约束:status_code=500 → "服务器错误"

业务层有约束:"服务器错误" → 值班员立即响应

策略层有约束:"Critical" → 情绪权重最高


但到生成 Web UI 这一步,约束链断了。


Agent 把 status_code=500 渲染成界面时,可能写成:

  • "Something went wrong"(语义降级)
  • 按钮做成蓝色实心(样式错误)
  • 四种错误全部用红色(分级缺失)

后端的规矩再严密,语义层没有约束,等于零。

这不是前端的锅。前端按设计稿实现了,设计稿按规范画了,但规范写在文档里,Agent 生成内容时没读。


Agent 按概率生成,每次输出的文案、颜色、样式可能不同——语义在生成过程中漂移了。

约束链止于业务逻辑层,语义层是空白。

这是端到端可信的缺口。


五、语义闸口:在转换链条中插入受控的规范层

这个解耦方法在语义层有三个实现环节。

发现意思在哪里可能跑偏——模式库

不是截图记笔记。

是按组件类型做结构化归档:

组件类型

语义属性

典型漂移

Alert

type: success/info/warning/error

多种错误共用红色

Button

type + danger + ghost

高危操作做成普通样式

Modal

type: confirm/info/success/error

拒绝和终止混为一谈

Progress

status: wait/process/finish/error

阶段标签模糊

当 Agent 生成的输出与组件手册中的语义定义出现偏差时,记录为模式。


把意思写成机器能懂的规矩——契约库

规矩不是写在文档里让人读。

是写在代码里让机器执行。

# contract/ACT-001.yaml
组件: Button
组件手册依据:
  Props:
    - type: primary / default / dashed / link / text
    - danger: true / false
    - ghost: true / false
绝对不能碰的红线:
  - 禁止: semantic_domain=destructive 时,type 不是 primary 或 danger=false
  - 禁止: 缺少 Modal.confirm 二次确认
颜色背后的意思:
  destructive_action:
    组件手册映射:
      Button: { type: "primary", danger: true, ghost: true }
      Modal: { type: "confirm", okType: "danger" }

删除按钮的 type 必须是 primary,danger 必须是 true,ghost 必须是 true——这些不是建议,是约束。

契约买的不是"生成能力",是**"可审查性"**。


证明意思没有被跑偏——验证工具集

输入一段文案或 Web UI 描述,自动判断是否符合契约,给出通过/不通过。

不是人眼走查,是机器自动审查。

不是"感觉好多了",是有明确的测试标准和通过准则:

  • 单元测试:单组件语义合规性 → 准确率 ≥ 90%
  • 集成测试:多组件语义一致性 → 100% 匹配
  • 回归测试:规范迭代后兼容性 → 通过率 100%


三个环节叠加,形成语义层的 Harness:

发现漂移(模式库)
    ↓
裁决契约(契约库)
    ↓
修订生成(Prompt 注入)
    ↓
验证锁定(验证工具集)

意思在生成之前被固定,样式在规范之内被允许漂移。

这才是端到端可信——从决策到呈现,每一层都有约束、每一层都可审计。


六、为什么现在必须做

以前 Web UI 是人画的。

设计师画什么,前端做什么,语义不会变。

现在 Web UI 是 Agent 生成的。

同一个需求,Agent 每次生成的文案、颜色、样式可能不同——语义一致性从"确定性"变成了"概率性"。


传统设计系统管的是像素级一致性:

  • 颜色
  • 字体
  • 间距


但 Agent 生成时,像素对了,语义可能错了:

像素对了

语义错了

颜色是红色

但四种错误全部用红色,没有分级

文案是中文

但 Critical 变成了严重,情绪降级

按钮有圆角

但删除做成了蓝色实心,没有二次确认

这些不是视觉回归能捕获的问题。

视觉回归检查"长什么样"。

语义闸口检查"意味着什么"。


Agent 时代,约束基建必须从业务逻辑层延伸到语义层。

否则后端的规矩再严密,Web UI 的语义没有闸口,用户看到的仍然是"意思跑偏了"的界面。


一句话

Agent = Model + Harness。

Harness 不能只套在业务逻辑层,必须延伸到语义层——从决策到呈现,每一层都有约束、每一层都可审计。

review-verdict-revise-verify 的闭环不是论文审查专属,是任何概率性生成系统的通用原则:负载承载的安全逻辑,必须放在确定性编排中。

语义也需要一道闸门。

相关文章
|
4月前
|
人工智能 前端开发 开发工具
把设计规范写成代码格式,是所有 AI 工具的上游约束方法论
本文提出:设计师用YAML规则文件将设计意图(如错误分级、高危操作约束)转化为机器可读的上游约束,嵌入AI生成流程,从语义层守住边界,解决AI乱生成按钮、误译告警等核心痛点。开源实践已落地。
把设计规范写成代码格式,是所有 AI 工具的上游约束方法论
|
5月前
|
存储 缓存 安全
大模型应用:大模型响应缓存技术完全指南:TTL 缓存装饰器的设计与落地.112
本文详解大模型应用中缓存装饰器的实战实现,直击响应慢、成本高两大痛点。从基础缓存出发,逐步升级为支持TTL过期、线程安全、LRU淘汰、异常防护及哈希键优化的生产级方案,显著提升响应速度、降低Token消耗、增强系统稳定性。
379 7
|
5月前
|
存储 人工智能 前端开发
大模型应用:基于《症状自评量表SCL-90》与大模型的心理评估系统全解析.113
本项目将专业SCL-90心理量表与大模型深度融合,构建了一套全流程自动化评估系统:前端支持自适应填写与实时计算,后端基于常模数据校验并调用大模型生成通俗易懂、个性化的分析报告,兼顾科学性、可用性与隐私安全,助力企业、学校及个人高效开展心理健康筛查。
400 5
|
5月前
|
自然语言处理 算法 搜索推荐
大模型应用:公交路线智能规划的最短路径算法:大模型重塑站点路径决策.114
本文详解公交智能路径规划原理:以图论建模站点网络,用Dijkstra等算法求解最短路径,并融合实时拥堵等动态数据;重点阐述大模型如何赋能——精准解析自然语言需求、动态加权多目标决策、灵活应对异常场景、生成人性化路线说明,实现“算法高效+大模型智能”的协同升级。
328 2
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
大模型应用:马尔可夫链\HMM与大模型的融合:经典序列算法+语义理解.109
本文详解马尔可夫链与HMM如何与大语言模型融合:前者提供可解释、稳定的序列结构控制(如对话状态流转),后者赋予深度语义理解与高质量内容生成能力,实现“结构稳+语义准”的协同范式,覆盖多轮对话、语音识别等场景。
379 2
|
5月前
|
数据采集 算法 量子技术
大模型应用:隐私优先的大模型应用:同态加密与大模型结合的完整实践.101
本文深入浅出解析“同态加密+大模型”技术:以全同态加密(FHE)为核心,实现敏感数据(如金融、医疗信息)在密文状态下完成大模型推理,全程不暴露明文,兼顾隐私与智能。涵盖原理、流程、数学基础及Python简易实现。
544 6
|
5月前
|
机器学习/深度学习 自然语言处理 算法
大模型应用:LDA线性判别分析+大模型:小数据驱动的语义增强分类实战.105
本文提出“LDA+大模型”小数据文本分类方案:用大模型(如BERT)生成高质量语义向量,再通过线性判别分析(LDA)降维并分类。兼顾语义理解与计算效率,仅需数百条标注数据即可实现高精度、低成本、易部署的文本分类,适用于意图识别、舆情分析等企业真实场景。
372 3
|
6月前
|
存储 自然语言处理 安全
大模型应用:医疗行业大模型:从生成前校验到生成后审计的应用实践.73
本文提出医疗大模型“生成前校验+生成后审计”全链路管控方案,通过输入完整性/合规性校验、隐私脱敏、标准化处理,及输出格式/准确性/隐私审计等闭环流程,确保病历撰写、医嘱辅助等场景安全、合规、准确落地。
630 7
|
6月前
|
缓存 人工智能 文字识别
大模型应用:多模态图文精准识别:基于本地化OCR模型应用实践.78
Qwen2-VL-OCR-2B是仅2B参数的轻量多模态OCR智能体,深度融合视觉感知与语言理解,可精准识别倾斜文字、复杂排版及多语言混合内容。支持CPU/GPU自动适配、指令式调用与全格式图片,本地部署安全高效,适用于文档、合同、海报等场景。
972 10
|
10月前
|
SQL 自然语言处理 数据可视化
构建AI智能体:四十三、智能数据分析机器人:基于Qwen-Agent与Text2SQL的门票分析方案
摘要:本文介绍了一个基于Qwen-Agent和Text2SQL技术的智能门票数据分析系统。该系统通过自然语言交互降低技术门槛,使业务人员可直接查询和分析数据。系统采用分层架构设计,包含用户交互层、智能代理层、工具执行层和数据服务层,核心功能包括自然语言理解、SQL生成、数据查询和可视化展示。文章详细阐述了系统流程、核心代码实现及优化策略,展示了如何通过大语言模型实现企业级数据分析应用的智能化转型,有效解决了传统数据分析流程中响应慢、沟通成本高等痛点。
756 7

热门文章

最新文章