自研 AOQ 协议,为多模态 AI 构建确定性传输底座

简介: AOQ(AI Over QUIC)是专为多模态AI设计的自研传输协议,首创“实时+非实时”双模自适应机制,支持文本、音视频、文件全格式统一承载与强同步。基于QUIC深度优化,具备0-RTT建连、流级容错、智能带宽调度等能力,60%高丢包下仍保障流畅交互,突破弱网瓶颈,实现低延迟、高可靠、强同步三者兼得。

一、前言

  • 随着大模型向多模态全面演进,AI 应用正从云端走向终端。端侧公网“最后一公里”的网络波动与 AI 推理所需要海量数据的实时传输需求之间,存在较大的冲突,会使得模型的推理效果以及用户体验大打折扣。
  • 为了解决这一问题,自研了AOQ(AI Over Quic) 协议,支持文本、音视频、文件的全格式统一承载。为了更加贴合多模态模型的数据生产和消费特点,更创新性地实现了“实时/非实时”双模自适应,旨在极端弱网环境下为多模态模型提供确定性的低延迟与高可靠体验,做到多模态模型体验的技术领先性。

二、多模态 AI 双工交互对传输协议的“升维考验”

多模态大模型通话场景,迫使网络传输协议直面两个“近似冲突”的硬性挑战:

  • 端侧弱网低延时:地铁、电梯等场景下,高丢包、大抖动、带宽骤降成为常态。弱网导致的卡顿和连接中断,会瞬间击穿用户对 AI 交互的耐心。
  • 数据异构强对齐:AI 交互混合了指令、音视频、长文本等异构载体。传统实时协议为保流畅常牺牲可靠性,导致数据截断;同时,多通道独立传输缺乏协同,极易引发口型、声音与字幕脱节。

简言之,两个挑战分别要求网络传输具备实时性和可靠性、同步性,三者构成的“不可能三角”令经典传输协议顾此失彼。


弱网实时

内容可靠有序

多载体强同步

用户感受

传统可靠协议

“太慢太卡”

传统实时协议

“能到,交互形式单一”

AOQ

“能到,交互丰富”

AOQ基于QUIC协议的底层优势,参考传统实时协议的优化手段,针对AI多模态数据的复杂特性进行了深度定制与重构,实现了实时、可靠和同步的三者兼得。通过实测对比,AOQ相比于经典协议(如可靠协议WebSocket及实时协议WebRTC),展现了全方位能力提升。

image.png

三、AOQ的破局与核心优势

针对AI全双工业务,AOQ协议抽象出物理层、传输层、模型对接层与应用层,逐层深度优化适配,在全格式承载能力、AI业务模式适配、极致弱网对抗、多流协同同步等维度上实现了代际跨越。

image.png

1. 全格式原生承载:打破协议壁垒,实现“一链通传”

  • 混合流量一体化:在单 QUIC 连接内,AOQ 原生支持文本指令、语音消息、图片、大体积文件、实时流媒体的并行传输。
  • 多模态时序强同步:即使模型异步生成音频、视频、文本存在速度差异,AOQ 仍可依据全局时钟同步与关联映射机制,完成强制同步和映射,避免出现音画不同步、图文错位等现象。
  • 交互全链路加密:全格式数据原生加密,无论控制指令、文本、文件,抑或实时音视频、图片,均全时段密文传输,确保端云双向的隐私安全与防劫持能力。
  • 多模态单协议全交互:

2. “实时+非实时”双模自适应:精准匹配AI生产节奏

针对大模型输出数据“快慢不均”的特性,AOQ 独创了双模式自适应机制

  • 实时模式 (Real-Time Mode):专为对时效性极度敏感的流式数据设计,比如摄像头与麦克风的实时采集。秉持“新鲜度和流畅性优先”理念,保障音画同步与交互的即时响应。
  • 非实时模式 (Non-Real-Time Mode):面向对数据完整性与顺序有严格要求,以及数据可以提前发送并缓存的场景。秉持“可靠性优先和超前发送”的理念,端侧进行超前缓存,从而降低全链路延迟,并保证极强的网络韧性。
  • 非实时模式超前可靠发送,断网依然续播:
  • 双模式无缝网络切换:

3. 极致抗弱网能力:升级QUIC内核,引入流级容错

AOQ集成了专为实时媒体交互的弱网对抗增强技术,显著提升高铁、地下车库等极端环境下的生存能力:

  • 0-RTT极速建连:增强QUIC的 0-RTT 特性,即使身处弱网环境仍可瞬间建立安全连接,保障AI助手即时响应。
  • 精准带宽估计与动态分配:内置改进智能带宽估计算法,敏锐感知网络瞬时波动,结合动态分配策略自动调节,确保核心交互不卡顿。
  • 流级冗余保护与快速重传:各模态独立建流,实现流维度隔离的前向冗余机制,结合快速重传能力,不牺牲延时即可消除弱网环境“滋滋”声或画面马赛克。
  • 极速建连响应:
  • 60%丢包仍能对话流畅:

4. 全球化部署:智能就近接入,保障跨地域一致体验

  • 全球接入智能分配:依托全球节点和智能调度策略,持续优化跨地域传输,无论身处何地,均能就近接入,获得稳定、低时延的一致对话体验。
  • 全链路质量监测:从接入到传输、全程可观测,依据丢包、抖动等关键指标快速发现链路异常,实现全球网络链路动态优化和快速定位。 image.png

四、Realtime API业务案例

  • Realtime API + fun-asr-realtime模型实现语音输入法:
  • Realtime API + qwen3.5-livetranslate-flash-realtime 实现实时翻译:
相关文章
|
2月前
|
SQL 自然语言处理 文字识别
阿里云百炼知识库(Knowledge Studio):迈入 Agentic RAG 4.0时代
阿里云百炼Knowledge Studio(RAG 4.0)推出独立 Rag Agent服务,提供 Agentic Search + Agentic Generation 闭环方案。面向企业全模态多知识库场景,真正做到复杂知识搜得到、答得好、引用看得见。
939 2
|
NoSQL 网络协议 数据库
为什么 Lettuce 会带来更长的故障时间
本文详述了阿里云数据库 Tair/Redis 将使用长连接客户端在非预期故障宕机切换场景下的恢复时间从最初的 900s 降到 120s 再到 30s的优化过程,涉及产品优化,开源产品问题修复等诸多方面。
71743 11
为什么 Lettuce 会带来更长的故障时间
|
1月前
|
人工智能 程序员 API
DeepSeek V4 Flash 正式版:成绩碾压 Pro 预览版,白菜价
DeepSeek V4 Flash 正式版上线公测:Agent 基准远超 V4-Pro 预览版,第三方指数反超 Pro,输出 2 元/百万token
DeepSeek V4 Flash 正式版:成绩碾压 Pro 预览版,白菜价
|
3月前
|
机器学习/深度学习 人工智能 调度
🐴 HappyHorse 1.1 现已上线阿里云百炼!快来查收模型使用指南,现在调用享 6 折~
HappyHorse 1.1 是新一代视频生成大模型,全面升级动态表现力、角色一致性、指令遵循、视觉质感与音画协同能力。支持I2V/T2V/R2V三类生成,适配短剧、电商广告、品牌营销等场景,提供高质、流畅、可控的AI视频生产力。
1681 6
🐴 HappyHorse 1.1 现已上线阿里云百炼!快来查收模型使用指南,现在调用享 6 折~
|
2月前
|
传感器 机器学习/深度学习 人工智能
跨越仿真鸿沟:2026年Physical AI规模化落地关键技术突破
本文系统综述物理人工智能(Physical AI)端到端技术栈,涵盖多模态感知、边缘硬件、世界建模、视觉-语言-动作模型、学习范式及部署基础设施。揭示三大核心发现:基础模型泛化能力是规模化落地的关键杠杆;数字孪生已成为集群部署先决条件;监管认证而非算法局限,正成为量产核心瓶颈。结合制造业、物流等商业案例,提出四阶段成熟度框架与2030年研究路线图。
453 0
|
1月前
|
人工智能 自然语言处理 数据挖掘
阿里云百炼产品月报【2026年7月】
阿里云百炼本月重磅升级:发布企业级AGENT全栈平台,支持可视化编排与长程自主规划;上线Token Plan个人版,提供Qwen等多模态模型统一调用;推出Knowledge Studio知识库RAG方案,毫秒检索+多轮推理;新增39个MCP生态模板及11款应用模板,并优化Qwen-Audio、Qwen-Image等12个新模型。
509 0
|
2月前
|
数据采集 存储 人工智能
DCMM 2.0 九大能力域技术架构深度解析:从 L2 到 L4 的评估升级路径
DCMM 2.0(GB/T 36073-2025)于2026年7月1日实施,能力域扩至9个、能力项增至33个、评估指标达486项。本文从技术架构视角深度解读九大能力域,结合五级成熟度、量化指标与企业实践,为数据架构师提供标准落地与架构设计的实战参考框架。
|
2月前
|
人工智能 运维 知识图谱
IDC发布中国AI编程市场份额报告,阿里云以47.6%的份额稳居第一
IDC发布2025年中国AI编程市场份额报告,阿里以47.6%的市场份额位列第一。报告显示,2025年中国AI编程市场规模为3.99亿元,预计2026年底增长至11.73亿元。
|
2月前
|
人工智能 Java API
2026年阿里云千问大模型全解:Qwen3.7模型矩阵、计费与全链路实操指南
2026年阿里云通义千问(代号Qwen)作为全栈自研国产大模型体系,依托百炼大模型服务平台统一对外提供推理、微调、智能体搭建、私有知识库、应用部署等一站式MaaS能力。整套产品不再是单一对话模型,而是覆盖纯文本、代码、图像、音频、视频、行业垂直领域的完整模型矩阵,2026主力迭代版本为Qwen3.7系列,在超长上下文、自主长周期智能体、多模态统一推理三大维度完成全面升级,深度适配国内中文业务场景,同时兼容国际通用API协议,可无缝对接各类IDE插件、开源智能体框架、企业自研业务系统。本文从模型定位、分层产品能力、四大计费体系、多端实操接入、分场景选型、成本优化、常见故障排查七个维度完整拆解,覆
1462 0
|
9月前
|
人工智能 安全 搜索推荐
钉钉发布全球首个工作智能操作系统Agent OS,专为AI打造
2025年12月23日,钉钉在杭州发布AI钉钉1.1“木兰”版本,推出全球首个为AI打造的工作智能操作系统——Agent OS,开启“人与AI协同”新范式。通过钉钉ONE、DingTalk Real、AI搜问、悟空Agent及DEAP平台等构建完整AI协作体系,实现AI直连物理世界。发布会推出超20款AI产品,涵盖制造、差旅、客服等场景,全面升级AI表格、AI听记、DingTalk A1,助力企业零门槛迈向AI原生办公。
7995 10

热门文章

最新文章