OpenAI旧Evals进入退役倒计时:Agent测评别再押在一个平台按钮上

简介: OpenAI旧Evals即将退役,警示团队:评测资产不可绑定单一平台。须独立保存四类核心资产——数据集、评分规则、执行Trace、CI报告,并版本化管理。迁移前需双写校验,聚焦行为证据与诊断标签,确保质量记忆不随平台消失。

OpenAI旧Evals进入退役倒计时:Agent测评别再押在一个平台按钮上

真正会丢的不是一个界面

很多团队说“我们做过几十条 Agent Eval”,实际资产只存在某个平台的网页按钮里:案例是谁写的、标准答案是什么、评分器怎么判、失败时调用了哪些工具,全靠系统内部保存。平台一迁,留下的可能只是一张总分截图。
OpenAI 已公布旧 Evals 的只读与关闭时间。无论是否使用该平台,这都是一个提醒:评测能力不能依赖某个页面还在。

四类资产必须独立保存

① Evaluation Dataset:用户请求、上下文、期望业务事实;② Grader/断言:通过条件、禁止行为、阈值;③ Trace:工具调用、参数、模型与版本;④ CI报告:哪次变更造成了什么回归。
把它们存成可版本管理的 JSON、代码和可查询日志,换平台时只需要换执行器,不需要从零再猜业务规则。

image.png

迁移前先跑一次双写校验

选择20条高风险样本:退款、权限、空结果、工具超时。旧系统和新执行器同时跑,逐条比较不是只比较总分,而是比较失败分类和 Trace。若新平台只会打“失败”,却无法指出参数越权或调用顺序错,就不是等价迁移。

双写时建议把每条样本拆成三列:业务结论、行为证据、诊断标签。比如“退款未执行”是业务结论;“先调用 cancel 再调用 refund”是行为证据;“调用顺序错误”才是诊断标签。三列分开后,团队能判断是评分器变了,还是 Agent 真变了。只比较 82 分和 84 分,排查没有起点。

迁移清单也要有人负责:谁维护坏案例、谁审批新增评分规则、谁在模型或 Tool Schema 变更时触发回归。它不是平台管理员的杂活,而是 AI 测试开发的质量资产管理。新同学接手时,能在仓库里找到版本化数据集和报告,比收到一张历史仪表盘截图有用得多。

结论

评测平台是工具,不是资产。测试工程师应该拥有自己的坏案例、断言和证据链,这样任何平台退役都不会带走团队的质量记忆。

相关文章
|
2月前
|
存储 人工智能 安全
千问办公收费吗?个人版和企业版有什么区别?支持免费使用吗?
阿里云千问办公(QwenWork)提供个人版(含免费版)与企业版:免费版赠2000积分+每日登录送100分;个人标准/高级版折后78/158元/月;企业版198/298元/席/月,支持VPC部署与统一管控。阿里千问办公QwenWork官网:https://t.aliyun.com/U/0VCTGt 阿里AI工作平台,一句话完成数据分析、PPT 生成、视频剪辑、网页搭建等复杂任务
399 0
|
2月前
|
缓存 JSON 安全
最新版通义千问Qwen3.8-Max保姆级手册:多模态能力、长周期Agent任务与代码调用全流程
Qwen3.8-Max作为旗舰级多模态MoE大模型,依托2.4万亿总参数、动态激活950亿专家参数、百万Token超长上下文、混合注意力架构,在复杂专业推理、长周期Agent任务、大型代码工程、多模态深度理解等场景实现能力突破。模型内置联网检索、代码沙盒、网页提取等全套工具能力,兼容主流API协议,支持上下文缓存、结构化输出等企业级能力,开发者既可以快速调用云端API,也可以私有化本地部署。
452 0
|
2月前
|
人工智能 缓存 监控
QoderWake联合云电脑:让数字员工随时待命工作
QoderWake联合无影云电脑上线,为数字员工Waker提供持久化云端运行环境:关机不中断任务、远程实时查看与接管操作、环境状态自动保留。支持浏览器/终端/桌面全场景自动化,适用于竞品监控、夜间构建、定时报表等长时任务。
482 0
|
2月前
|
前端开发 JavaScript 定位技术
支持省市区县乡镇村GeoJSON 在线预览编辑下载器开源:一个纯前端实现的拆解
这是一个纯前端、零依赖的GeoJSON轻量预览编辑器,支持本地打开、WGS84坐标渲染、要素查看/编辑,并可导出为GeoJSON/KML/SVG/CSV/PNG。数据不上传,双击index.html即用,开箱即用,适合快速验图、格式转换与二次集成。
|
2月前
|
人工智能 Linux 开发者
【2026国内使用】Codex安装过程一篇讲透(Win/Mac/Linux全支持)
Codex是OpenAI推出的AI编程智能体,可读取本地项目、理解需求并自动修改代码。支持桌面GUI、命令行(CLI)及VS Code/Cursor插件三种形态,覆盖可视化操作、终端高效开发与编辑器无缝集成场景,助开发者用自然语言驱动编码全流程。(239字)
3036 3
【2026国内使用】Codex安装过程一篇讲透(Win/Mac/Linux全支持)
|
2月前
|
人工智能 JSON 编解码
【2026最新版】ComfyUI本地部署教程,新手也能看懂!
ComfyUI是本地运行的AI绘画工具,采用节点式工作流设计:通过拖拽连接“加载模型”“提示词编码”“采样”“解码”等模块,实现高度可控的文生图。新手推荐使用秋叶整合包,一键启动、内置模型管理与插件安装器,轻松上手。(239字)
|
2月前
|
人工智能 知识图谱 SEO
在GEO公司干了一个月,才知道,企业AI获客就靠这6张表就够了
本文揭秘GEO(生成式搜索引擎优化)底层逻辑:非传统SEO,核心是让AI用你的话回答问题。聚焦三大关键——构建知识图谱实体、建立AI信任三关、结构化信源建设,强调“讲得清、结构对”才是被AI识别与推荐的根本。
146 1
|
2月前
|
人工智能 自然语言处理 数据可视化
AI建筑:从图像渲染到意图建模,ADAI在本土AEC工作流中的实践探索
海外 AEC 领域出现以意图驱动建模的新探索,行业开始讨论 AI 建模不再单纯追求画面美感,而是优先承接设计师的空间构想。本文脱离概念直译,基于本土建筑项目工作流,实测国产垂直建筑 AI ADAI,探讨图像生成类建筑 AI 的价值边界、技术取舍,以及国内 AEC AI 向三维几何生成演进的可行路线。
|
2月前
|
人工智能 监控 测试技术
「我改完自己试了几个问题,感觉没问题」不算发布记录:给每次 Prompt 上线留一份三段式报告
Prompt作为AI应用的“事实源代码”,却长期缺乏代码级发布管理。本文提出三段式发布报告(变更台账+回归结论+回滚阈值),通过Git版本化、CI自动校验、相对指标比对与强制回滚锚点,将Prompt变更纳入可追溯、可回滚、可复盘的工程闭环,终结靠记忆复盘的裸奔时代。(239字)
「我改完自己试了几个问题,感觉没问题」不算发布记录:给每次 Prompt 上线留一份三段式报告
|
2月前
|
监控 测试技术
测试报告别只做『成绩单』:五个字段把放行责任写清楚
这是一份面向发布决策的质量报告革新方案:用“放行决策件”替代传统成绩单式报告。它以五个刚性字段(范围对账、风险账、证据链接、判定签名、回滚确认)结构化回答“能否上线、谁拍板、依据何在、责任归属、退路是否可靠”,直击复核成本高、追责难、决策无抓手等痛点。数据自动装配,判定机器可验,签名人工不可绕——让质量报告真正成为发布决策的法定依据。
测试报告别只做『成绩单』:五个字段把放行责任写清楚