为什么 AI 回复一开流式输出,中文商品名就变成了乱码?

简介: 本文揭示了流式传输中 UTF-8 多字节字符(如“汤”)被错误截断导致乱码(“”)的根本原因,剖析 `TextDecoder` 默认非流模式的缺陷,并给出启用 `{stream: true}` 的正确解法与可验证的测试策略,强调业务层必须校验最终解析出的商品名一致性。

把一条 AI 回复缩到只剩一个商品名。整段读取,屏幕上是“汤”。换成边收边显示,同一份数据却读出了“���”。再查日志,JSON.parse() 成功,name 字段也在,类型还是字符串。如果测试只检查这三件事,这条用例甚至会亮绿灯。

我们用一个本地实验复现了这个现象。全程只改一个条件:读取器在哪个字节停下来,把已经收到的内容交给程序。

把“汤”从中间切开

“汤”用 UTF-8 编码后占三个字节,十六进制写作 E6 B1 A4。发送端可以一次写出完整的字,接收端每次读到多少字节却没有这个保证。假设第一次读到 E6,第二次才读到 B1 A4,三个字节一个都没丢。

下面三段代码可以依次放进同一个 repro.mjs,用 node repro.mjs 运行,不需要模型或 API Key。

import assert from "node:assert/strict";

const prefix = '{"name":"';
const original = prefix + '汤"}';
const bytes = Buffer.from(original, "utf8");
const start = Buffer.byteLength(prefix);

function splitAfter(n) {
   
  const cut = start + n;
  return [bytes.subarray(0, cut), bytes.subarray(cut)];
}

function decodeSeparately(chunks) {
   
  const decoder = new TextDecoder("utf-8");
  return chunks.map(chunk => decoder.decode(chunk)).join("");
}

const broken = decodeSeparately(splitAfter(1));
console.log(broken);                  // {"name":"���"}
console.log(JSON.parse(broken).name); // ���

注意,解码器已经放在循环外面了。问题出在每次调用 decode(chunk) 时,默认都会把当前输入当作已经结束。第一块末尾的 E6 还在等后续字节,解码器却得收尾,于是输出替换字符 �(U+FFFD)。下一块开头的 B1 和 A4 都是续接字节,单独出现时各得到一个 �。等到 join("") 拼字符串,原来的三个字节已经被解读过了。

为什么 JSON 没报错?

看一眼传给 JSON.parse() 的实际内容就明白了。花括号、引号、冒号都完好,变化只发生在引号里面。{"name":"汤"} 和 {"name":"���"} 都是合法的 JSON。解析器拿到后一段文本时,已经无从得知发送端写过一个“汤”字。

这也解释了为什么只用 "SKU-42" 当测试商品名很难发现问题。它的每个字符都只占一个 UTF-8 字节,怎么切都不会把一个字符拆成两半。

修复时,给每条响应流留一个解码器

function decodeStream(chunks) {
   
  const decoder = new TextDecoder("utf-8");
  let text = "";
  for (const chunk of chunks) {
   
    text += decoder.decode(chunk, {
    stream: true });
  }
  return text + decoder.decode();
}

{ stream: true } 告诉解码器后面还有数据。它读到第一块时,可以立刻交出已经完整的 {"name":",把末尾的 E6 暂存起来。第二块到达,三个字节凑齐,“汤”就可以显示。已经解出的文字可以先显示,只有结尾那半个字需要等下一块。最后一次无参 decode() 放在流正常结束的地方,处理剩余状态。TextDecoder 编码规范

这里的函数返回整段文本,方便做断言。真正的流式界面可以马上显示每次解出的文本。如果上游用 SSE(服务器发送事件)传 JSON,还要再等一层:一个汉字解出来时,这一条事件可能还没收全。应先按 SSE 规则收齐事件,再解析它的 data。SSE 事件解析规则

怎样验证修好了?

最容易误判的验收方法是再请求一次,恰好看到“汤”就算通过。下一次读取的位置可能变了。更可靠的办法是固定原始字节,把最容易出错的切法主动喂给同一段代码。

const cases = [
  ["整段读取", [bytes], "汤"],
  ["第一个字节后切开", splitAfter(1), "���"],
  ["第二个字节后切开", splitAfter(2), "��"],
  ["每次只读一个字节", Array.from(bytes, b => Uint8Array.of(b)), "���"],
];

for (const [label, chunks, oldName] of cases) {
   
  assert.equal(JSON.parse(decodeSeparately(chunks)).name, oldName);
  const fixed = decodeStream(chunks);
  assert.equal(fixed, original);
  assert.equal(JSON.parse(fixed).name, "汤");
  console.log(label, "通过");
}

四组都通过。第二种切法得到三个替换字符,第三种只得到两个,因为 E6 B1 会作为一段尚未完成的序列一起处理。因此用例里最值得留下的断言是“解析后的商品名等于汤”。 它直接检查用户最后看到的值。

在百灵中枢(BailingHub)公开版本 v0.10.1 里,还能看到一个更贴近实际使用的测试。它把一条包含“你好”的 SSE 响应逐字节送入,先等下游收到首批文本,然后才发送用量信息并关闭流。最后检查下游拼回的内容和完整原文逐字相等,用量也能正确读出。这组传输测试共七项,本次复跑全部通过。固定版本实现 · 公开回归用例

如果把这个例子换成 AI 替门店查商品,乱码的后果就很具体了。界面上出现“���”,人一眼就会发现。查询接口收到同一个字符串,却可能正常返回“查无此商品”。所以测这类接入时,除了看聊天窗口能否逐字显示,还值得在业务接口入口多问一句:它最终收到的商品名,和发送端写下的是同一个名字吗?

相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
7066 17
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2336 10
|
8天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
8天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
21天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10223 59
|
4天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1059 1
|
7天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。
|
16天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3500 9

热门文章

最新文章