Flash 模型 Bechmark 横评

简介: 对轻量模型的能力做一些横评

作为学生开发者,除工作学习之余,我选模型时最在意两件事:价格够不够便宜,以及能不能把事情一次做好。

相信同为业内工程师的大家或多或少都应该有过这样的经历:预算有限,API 调用的每一笔开销都得算着来;平时又经常要赶 deadline,如果模型干到一半开始跑偏,或者生成的代码反复报错,省下来的 API 费用很可能还不够填返工的时间。

过去几个月,国产大模型又密集更新了一轮。Step 3.7 Flash、MiniMax M3、GLM-5.2、Kimi K2.7 Code 等新模型接连进入视野。虽然它们的定位各不相同,但能看出来,厂商们已经不只是盯着模型的推理能力和榜单成绩,也在认真解决模型落地时的实际问题。

目前我们可以简单地把模型分成二档。


第一种是Pro档。主打一个极限推理、复杂编程和长链条Agent任务,像Claude Opus 4.8和GPT-5.5就属于这类。它们在高难度评测集上得分都很高,但是它的价格也是很高,稍微搞一些高频任务,账单就有点受不了。


第二种可以叫Flash档。Step 3.7 Flash、DeepSeek V4 Flash、Gemini 3.5 Flash、Qwen3.6 Flash都在这个阵营,这类模型不追求单项能力很强,而是在高频、多轮、低延迟、大规模使用的的场景里,在速度、成本、上下文长度和稳定性之间找到一个平衡。

对开发者来说,这些差异其实比单纯的跑分更值得关注。毕竟,模型能力再强,如果调用成本太高、响应太慢,或者在实际任务中频繁出错,就很难放心地把它放进日常开发流程里。

尤其是 Agent 场景,模型的价值已经不只是“回答得好不好”,而是“能不能把活干完”。

一个 Agent 可能需要连续完成任务拆解、工具调用、代码生成、运行检查、错误修复等多个步骤。单次回答表现不错,并不代表整个流程就能顺利跑通。只要中间某一步出错,就可能触发额外的调用和重试,既浪费时间,也增加成本。

这也是这次横评 Flash 模型的原因。

测试流程

本次使用 Claude code 来测试,测试的模型比较多,个人建议安装cc switch,配置好各个模型厂商后可以一键切换,非常方便。


也可以通过修改json配置文件来切换模型 ~/.claude/settings.json,例如 Step 3.7 Flash 的配置。

export ANTHROPIC_BASE_URL="https://api.stepfun.com/step_plan"
export ANTHROPIC_AUTH_TOKEN="key"
export ANTHROPIC_MODEL="step-3.7-flash"


因为实际测试的时候,不同模型能用的工具链并不完全一样。Step 3.7 Flash、DeepSeek V4 Flash、Qwen3.6 Flash,我主要是在 Claude Code 里跑, Gemini 3.5 Flash,我只好放到 Google Antigravity 里面测试。


所以后面看到时间、Token、报错次数这些数据,大家不要直接理解成排行榜。我们不是要证明谁是第一,而是想看看,在真实 Agent 任务里,谁更稳定、少犯错、最后交出来的东西是一个能用的成品。


案例测试

案例一:从零搭建开发者日志站

这个案例我们主要对比下 Step 3.7 Flash 和 DeepSeek V4 Flash 这个两个模型

我直接把下面这段 prompt 丢给 Claude Code,两个模型各跑一次:

帮我从零搭建一个开发者日志站点:
- 技术栈:Next.js App Router + TypeScript + Tailwind CSS
- 从 `posts/` 目录读取 Markdown 文件,自动生成日志页面
- 首页展示日志列表(标题、日期、摘要),支持按标签筛选
- 代码块支持语法高亮,暗色主题,响应式布局
- 生成 5 篇示例日志,每篇 300 字以上,含代码示例
- `npm run dev` 能直接跑起来

这个任务不算特别难,模型需要理解技术栈要求,搭 Next.js 项目结构,配置 Markdown 解析,写列表页和详情页,加标签筛选和语法高亮,还要生成 5 篇像样的示例日志。

中间任何一个步骤出错,就可能导致项目跑不起来、页面功能不完整,或者前端显示不太好


我们先来看下 deepseek-v4-flash的效果

Snipaste_2026-10-19_15-32-36.png

页面上总体功能都符合需求,模型一轮就给出了结果,没有让我们多次提示,中间执行过程中,模型在编译的时候遇到了3次错误,都是自己修复,最后给出的是一个可用的网页成品。

Snipaste_2026-10-19_15-29-47.png

Step 3.7 Flash 的效果:

Snipaste_2026-10-19_15-34-22.png

这个页面同样是一轮生成,布局上采用了卡片式网格结构,每篇文章以标题、描述和标签组合展示,点击卡片进入详情页。相比DeepSeek V4 Flash偏列表化的信息陈列,Step 3.7 Flash生成的页面更强调视觉层级,导航栏固定了分类筛选,交互上更贴近成熟的博客系统,整体观感更加规整。


这两个网页,我更加倾向 step-3.7-flash这种。


看完效果,我们来看下,时间,成本的消耗:

项目 deepseek-v4-flash step-3.7-flash
总 Input 726.6k 747.4k
总 Output 14.0k 25.7k
API 时间 2m 1s 2m 30s
估算人民币成本 ¥0.72 ¥1.22

可以看出,两个模型的输入token基本上差不多,Step 3.7 Flash 的模型输出要多很多,难道是这个原因,导致效果要好一点吗,API消耗的时间也没有多大的差距,成本上deepseek确实更加便宜,从API定价来看,国内外好像也没那个模型能够和deepseek比。


案例二:GitHub 项目雷达

我们来看看 Step 3.7 Flash 和 Gemini 3.5 Flash 对比表现如何

提示词如下:

帮我从零搭建一个 GitHub 项目雷达:
- 用 Python 脚本抓取 GitHub Trending 本周热门 AI 项目
- 对每个项目提取:名称、Star 数、语言、简介、最近更新时间
- 自动分类(Agent 框架 / 模型推理 / RAG / 多模态 / 工具链 / 其他)
- 生成一个 HTML 报告页面:分类卡片 + 统计小结 + 原始数据表
- 项目能直接跑起来,输出 `report.html`

我们先看下Gemini 3.5 Flash的效果,直接把提示词给到 google Antigravity

Snipaste_2026-10-19_18-55-20.png

ce9a1fd3494ab3b891f320f6e97404ba.png

任务是一次性完成,虽然说中间有2个工具报错,都是模型自动修复,没有人工介入,最后给出了一个完整可运行的脚本和页面。


Gemini 这次任务完成度没有问题,但页面组织比较松散,信息密度和视觉层级不太友好。

我们在来看 Step 3.7 Flash 的效果,把相同的提示词给到claude code

485857a960b5b68ee0a46d453a2940aa.png

ed728a72d4874d4c72eda1433ed10e52.png

任务页是一次性完成,中间没有发生任何错误,给出了一个完整可运行的脚本和页面。


页面采用了卡片式的布局,每个卡片清晰呈现项目名称、简短描述、编程语言、Star总数及本周增量。信息密度适中,视觉层次分明。稍显不足的是分类导航没有固定在顶部,需要滚动到对应区域才能看到其他分类。但整体排版、字体和间距控制都比较舒适,Step 3.7 Flash 更接近一个可交付的看板页面。


这轮任务中,Step 3.7 Flash 一共消耗 406.5k input tokens 和 18.7k output tokens,没有缓存命中。执行时间上,API 时间为 2 分 25 秒,完整 Wall 时间为 4 分 45 秒。按 Step 3.7 Flash 官方价格估算,这次任务成本约 0.7 元人民币。


Gemini 3.5 Flash 的消耗不好查看,没有记录可以查看的地方,时间消耗两边都差不多,在3分钟左右,这边只显示了额度被消耗了28%,无法查看token的一个具体消耗。


案例三:源码解读

写代码只是 Coding Agent 的一部分。

另外一个高频的场景是读代码,这个是我们经常遇到的事情,接手一个陌生项目、理解一个开源库、分析一个框架的核心链路,然后把它转成团队能读懂的文档。

所以第三个案例我选了一个源码解读,让它阶段源码,给出输出一个html的页面,这个源码解读,需要多轮工具调用,我们可以看看它们在多轮工具调用上的表现如何。

提示词如下

请你分析当前这个 GitHub 开源项目的源码,并生成一份静态 HTML 架构分析报告。

要求你不要只看 README,要结合源码目录、核心模块、类和函数调用关系来分析。

分析目标:
1. 这个项目是做什么的?
2. 它解决了什么问题?
3. 核心架构是什么?
4. 主要模块如何协作?
5. 一次 memory 写入流程是怎么走的?
6. 一次 memory 检索流程是怎么走的?
7. 它依赖哪些外部组件,比如 LLM、Embedding、Vector Store、Graph Store、数据库等?
8. 如果我要自己实现一个简化版,最小核心链路是什么?
9. 这个项目的优点、复杂点和潜在局限是什么?

请完成以下任务:

1. 扫描项目目录
   - 找出核心源码目录
   - 找出主要入口文件
   - 找出核心类、核心函数和关键配置文件

2. 分析源码结构
   - 说明每个核心模块的职责
   - 说明模块之间的调用关系
   - 不要泛泛而谈,要尽量指出具体文件路径

3. 生成架构报告
   - 创建 `mem0_architecture_report.html`
   - 使用纯 HTML + CSS,不依赖外部 CDN
   - 页面需要包含以下章节:
     - 项目概览
     - 目录结构解读
     - 核心模块说明
     - Memory 写入流程
     - Memory 检索流程
     - 关键类与函数表
     - 架构流程图,使用 HTML/CSS 或 Mermaid 代码块均可
     - 简化版实现思路
     - 优点与局限
     - 适合参考的源码文件清单

4. 报告要求
   - 内容要适合工程师阅读
   - 不要只写概念,要结合源码文件路径
   - 每个核心结论尽量标注来自哪个文件或目录
   - HTML 页面要有清晰排版
   - 代码路径用等宽字体展示
   - 表格清晰可读

5. 验收要求
   - 最终必须生成 `mem0_architecture_report.html`
   - 报告打开后能直接阅读
   - 如果你发现源码结构和 README 描述不一致,以源码为准

我们先来看下Qwen3.6 Flash的效果

17265e0d6e65e45dcc200fede34ce67f.png

500bdae484e1fca0ff7141e14bb92fe6 (1).png

在执行过程中,发生了多次工具调用失败的场景,不过Agent最后都做了修复,一次对话就完成了任务

再来看看 Step 3.7 Flash 的效果如何

43f179ae37193e05da4e90949fc123a9.png

项目 Qwen3.6 Flash Step-3.7-Flash
总 Input 1.38M 1.2M
总 Output 40.8k 20.6k
API 时间 6m 17s 4m 08s
估算人民币成本 约 ¥2.07 约 ¥1.79

几轮测试后的横向对比

维度 Step 3.7 Flash DeepSeek V4 Flash Gemini 3.5 Flash Qwen3.6 Flash
工具调用稳定性 ★★★★★ ★★★★☆ ★★★★☆ ★★★☆☆
错误自修复能力 高 高 高 高
UI/前端审美 ★★★★☆ ★★★☆☆ ★★★☆☆ ★★★★☆
单次Token成本 中等 低 中高 中等
隐性返工成本 低 中 中 中


从这张表里可以看出,Flash 模型的成本不能只看单次 Token 单价。

DeepSeek V4 Flash 的单次 Token 成本确实更低,这一点很有优势。但放到 Agent 场景里,真正影响成本的还有另一个变量:失败后的重试成本。比如工具调用失败、代码错误反复修改、页面结构不符合预期、报告需要人工二次整理,这些都会变成隐性成本。

我们把Agent的成本拆成两部分来看:总成本 = Token 成本 + 失败重试成本 + 人工介入成本。

从这几轮测试看,Step 3.7 Flash 不是单次调用最便宜的模型,但它的工具调用稳定性更好,返工更少,最终交付物完成度也更高。因此,如果任务是高频、多轮、需要持续调用工具的 Agent 执行场景,Step 3.7 Flash 的综合成本未必会更高,反而可能是更加省心的选择。


什么时候选 Step 3.7 Flash

经过上面的案例测试下来,大家对Step 3.7 Flash 应该有一个直观的感觉, 如果要我给Step 3.7 Flash给一个定位,我对它看法是:


它的价格确实比DeepSeek更贵一点,上下文比不过 DeepSeek 和 Gemini,但它的工具调用稳定性,接口响应速度,前端界面审美还是非常不错的。


它不是再某一个方面表现最强的模型,也没有明显的短板,它是在当前 Flash 模型档里,在速度、成本、稳定性这几个维度综合评估下来,在真实Agent执行层优先选择的模型之一。


适合选 Step 3.7 Flash 的场景:

  • 需要高频、多轮、低延迟的 Agent 任务
  • 生产级 coding-agent 工作流,对速度和稳定性都有要求
  • 需要多模态理解,比如截图转代码、图表转结论
  • 预算敏感,但又不想牺牲太多稳定性


Step 3.7 Flash 也有一个比较明显的短板,就是它的上下文只有256k。


如果要一次性处理大量代码库、长文档,或者需要把很多资料全部塞进上下文里,那这个窗口可能不太够。这种场景下,DeepSeek V4 Flash 会更合适。


模型没有绝对的最优解,还是要看场景。

最后总结

真实项目里,我们不只是追求模型回答得多聪明,而是希望它在一轮又一轮任务里,稳定、可控的执行任务,不要在哪里不停的犯错和返工。


本文所涉及案例只能给大家一个参考,真正适合你自己的模型,还是要放到你自己的项目里跑一遍。



























相关文章
|
5天前
|
云安全 人工智能 运维
当攻击全面Agent化,你的安全防御能否跟上AI Speed?
多起客户侧AK泄露事件应急的真实观察
1241 4
|
28天前
|
人工智能 JSON API
全网刷屏的 Jev 模型正式开放!一手实战测评 + 保姆级教程
全网爆火的 Jev 模型是什么?有什么用?怎么使用?怎么接入 AI 编程工具?效果真的好么?傻子可懂的 Jev 保姆级实战教程 + 项目实战测评来啦
9782 32
|
8天前
|
存储 人工智能 安全
千问办公官网入口网页版登录:qwenwork.cn 注册送2000积分、登录送100积分
阿里云千问办公(QwenWork)是AI智能工作平台,支持一句话生成PPT、表格、网页、视频及数据分析。个人免费版送2000积分+每日登录赠100分,含1GB存储、5个发布页;企业版198元/席/月起。阿里千问办公QwenWork官网:https://t.aliyun.com/U/0VCTGt 阿里AI工作平台,一句话完成数据分析、PPT 生成、视频剪辑、网页搭建等复杂任务
|
3天前
|
人工智能 API 开发工具
DeepSeek Harness 神插件:白嫖 13 家大厂模型
`dsh-our-free-model` 是 DeepSeek Harness 神级插件:零配置、零API Key、零账号,聚合13家大厂免费模型(含DeepSeek V4.1 Flash、Kimi K3等),支持本地网关、用量看板与自动降级,真正实现“白嫖即用”。
|
14天前
|
存储 人工智能 并行计算
大模型本地部署终端选型方法论:以 Qwen3.8-27B 为例的四档分层完整流程
本文提出一套大模型本地部署终端选型方法论:定约束、定档位、定框架、定参数四步决策法,配合入门、主力、质量、无损四档分层模型。以 Qwen3.8-27B 实测数据为例,逐环节解读显存、带宽、存储、散热、系统、预算等要素,给出面向不同预算的优选方案、决策自查清单与市场观察框架。文末前瞻 AI 笔记本的 CPU+GPU 与统一内存两条路线,论证四步决策法在新品类上的延续性。
|
5天前
|
Web App开发 人工智能 JavaScript
太猛了,一个月干到15W+,给大家推荐一个最近爆火的开源逆向工具:REA
REA(Reverse Engineer Anything)是近期爆火的开源AI逆向工具,4月发布,1个月内斩获15万+ Star。它让AI Agent无需源码即可分析二进制、APK、JS/Electron、HAR包等17类目标,自动反编译、生成可运行代码,并强制返回带证据与局限的结论。全本地执行,MIT协议,支持Hopper/Ghidra/IDA等引擎,一行命令即可上手。
621 1
太猛了,一个月干到15W+,给大家推荐一个最近爆火的开源逆向工具:REA
|
12天前
|
人工智能 JSON 自然语言处理
2026 年 Jev 决策模型深度拆解:原理解读、实战测评与保姆级落地教程
有一款特殊AI模型在开发者圈子刷屏,它摒弃传统大模型擅长的对话聊天能力,专注做高速结构化决策,它就是TypeSafe AI推出的Jev模型。该模型由ChatGPT共同发明人Diogo Almeida主导研发,定位为**System One Model(系统一模型)**,对标人类大脑快速直觉判断的思维模式,在响应延迟、调用成本、结构化输出稳定性上相比传统生成式大模型有着巨大差异。本文会完整拆解Jev底层原理、三大核心原语能力、适用业务场景,同时提供可直接运行的curl、Python代码示例,并且结合多组实测数据,客观分析模型优势与能力边界,帮助普通开发者和AI应用从业者快速上手落地。
927 1
|
9天前
|
人工智能 JSON 自然语言处理
2026 年 Jev 决策模型全解析:核心原理拆解,性能实战测评与落地部署教程
有一款特殊AI模型在开发者圈子刷屏,它摒弃传统大模型擅长的对话聊天能力,专注做高速结构化决策,它就是TypeSafe AI推出的Jev模型。该模型由ChatGPT共同发明人Diogo Almeida主导研发,定位为System One Model(系统一模型),对标人类大脑快速直觉判断的思维模式,在响应延迟、调用成本、结构化输出稳定性上相比传统生成式大模型有着巨大差异。本文会完整拆解Jev底层原理、三大核心原语能力、适用业务场景,同时提供可直接运行的curl、Python代码示例,并且结合多组实测数据,客观分析模型优势与能力边界,帮助普通开发者和AI应用从业者快速上手落地。
592 0

热门文章

最新文章