附下载|VLDB’26: 在线自适应查询分流框架AQD如何让PolarDB-IMCI行列分流更智能

简介: 阿里云PolarDB-IMCI联合清华、上交提出自适应查询分流框架AQD,被VLDB 2026收录。该框架融合离线学习、在线反馈与资源感知,动态决策SQL路由至行存或列存引擎,在高并发下降低延迟超90%,HyBench得分提升15%。

引言


日前,2026 年 VLDB 会议在美国波士顿召开。阿里云 PolarDB-IMCI 团队联合清华大学、上海交通大学提出了在线自适应查询分流框架 AQD(Online Adaptive Query Dispatcher)。相关论文《AQD: Online Adaptive Query Dispatcher for HTAP Databases》被 VLDB 2026 收录。


AQD解决了以 PolarDB-IMCI 为代表的行列混合架构中一个关键问题:当一条 SQL 到来时,系统应该将它分发到行存引擎,还是列存引擎?这个决策会直接影响查询延迟、系统吞吐和资源利用率。


传统方法通常依赖优化器估计代价和固定阈值进行判断:代价超过阈值则走列存,否则留在行存。这种方法实现简单、开销较低,但在实际负载中容易受到查询模式变化、统计信息误差、并发压力和资源状态波动的影响,难以持续保持最优分流效果。


AQD 则是在优化器已有信息的基础上,结合查询计划特征、真实执行反馈和运行时资源状态,动态判断查询更适合由行存还是列存执行。论文实验显示,相比传统基于代价阈值的分流策略,AQD 在高并发场景下可将平均查询延迟降低 90% 以上,并在 HyBench 测试中取得 9.56 的综合得分,相比代价阈值方法提升 15%,相比SOTA方法 BRAD(2024年VLDB论文方法) 提升 9%。


核心结论:在真实 HTAP 场景中,行列分流不仅需要判断单条查询在哪个引擎上更快,也需要持续感知负载变化和行列引擎之间的资源状态,来实现更优性能的查询分流。


AQD 总体架构:从查询级判断到负载级调节

在离线阶段,AQD 从 PolarDB-IMCI 的 MySQL 优化器中提取查询计划特征,收集查询在行存和列存两侧的真实执行延迟,并训练 LightGBM 模型学习查询级分流规律。该模型用于给出基础分流判断:从查询计划特征来看,这条 SQL 更可能适合由行存还是列存执行。但离线模型并不能完全覆盖真实系统中的动态变化。因此AQD 会持续接收真实执行反馈,对离线模型进行轻量级残差修正,结合负载迁移情况和资源利用情况对最终分流结果进行动态调节。AQD 在保持用户透明性的同时,将离线学习、在线纠偏和资源感知调节嵌入到 PolarDB-IMCI 的查询路由链路中,特征提取和模型推理合计仅带来约 500 微秒的单查询开销。


离线学习:构建查询级分流基线


AQD 首先通过离线训练建立查询级分流基线。也就是说,在不考虑线上负载波动和资源竞争的情况下,系统先学习一条 SQL 从查询计划本身来看,更适合由行存还是列存执行。


为了刻画查询本身的执行特征,AQD 从 PolarDB-IMCI 的 MySQL 优化器中提取查询计划信息,如数据规模、索引使用情况、选择率、Join 结构复杂度,以及是否包含聚合或大范围扫描等。


AQD 通过 SHAP 特征分析方法从一百余个特征中筛选出 32 个关键特征,在降低特征维度的同时保持预测效果。

AQD 通过将同一条查询分别在行存和列存引擎上执行,并记录两侧真实延迟,获得大量训练数据。基于查询计划特征和真实执行延迟,AQD 训练一种梯度决策树 LightGBM 模型作为查询级分流模型,输出一个连续分数st,其符号表示更倾向于哪一侧引擎,绝对值反映模型判断的置信度。


在线学习:基于执行反馈修正分流偏差


在真实 HTAP 系统中,最优分流决策会受到负载变化、数据分布变化、并发压力和机器状态波动的影响。因此,AQD 在离线模型之外进一步引入在线学习机制,根据真实执行反馈持续修正分流策略。


AQD 将 LightGBM 的基线分数与在线修正项合并,得到新的性能分数。这样,LightGBM 负责提供稳定的查询级初始判断,LinTS-Delta 负责根据线上反馈对该判断进行轻量修正,使 AQD 能够在保持低开销的同时适应动态负载。




根据 CPU/内存状态调节资源均衡

AQD 在性能分数之外进一步引入资源调节机制,会持续监控行存和列存两侧的 CPU、内存使用情况,并将当前资源状态与目标资源状态进行比较。如果行存引擎的资源使用已经高于目标水平,系统会适当提高后续查询分发到列存的倾向;如果行存引擎资源使用低于目标水平,则可以适当增加行存侧的查询分流比例。最终,AQD 将性能分数与资源调节分数融合,得到最终分流分数。通过这一资源调节机制,AQD 将行列分流从单条查询的性能判断扩展到系统层面的负载调节。它不仅关注“这条查询在哪个引擎上更快”,也关注“当前系统是否适合继续把查询分发到该引擎”。


实验结果

论文从查询级预测、在线负载漂移、并发执行和 HyBench 综合指标等维度对 AQD 进行了评估。实验配置和数据规模详见论文原文第五章。整体结果表明,AQD 的收益主要来自三方面:更准确的单查询分流判断、更强的动态负载适应能力,以及更好的 HTAP 整体性能。


首先,离线 LightGBM 模型能够更准确地识别一条查询适合行存还是列存。在 15 个数据集的单数据集测试中,LightGBM 在 14 个数据集上取得最低平均延迟;在跨数据集测试中,模型也保持了较好的泛化能力。这说明 AQD 学到的不是某个固定数据集上的规则,而是查询计划特征与行列执行性能之间更稳定的关系。相比传统代价阈值方法,AQD 尤其能够改善那些容易被固定阈值误判的“困难查询”。


其次,在线 AQD 在负载变化和高并发场景下表现更稳定。论文设计了多阶段 workload drift 实验,覆盖 OLAP 饱和、OLTP 突发、TP/AP 比例变化、数据规模漂移、混合竞争和内存压力等场景,用来模拟真实 HTAP 系统中的负载波动。实验结果显示,LightGBM Dynamic 在不同阶段都能保持较低延迟,相比代价阈值、Hybrid Optimizer 和 BRAD 等方法更稳定。在 200 到 1000 并发查询的实验中,LightGBM Dynamic 相比传统代价阈值方法将平均查询延迟降低 90% 以上,整体完成时间(makespan)也明显下降。这说明在线残差学习和资源调节能够有效缓解高并发下错误分流被排队效应放大的问题。


image.png

最后,AQD 在 HyBench 综合测试中取得了更好的整体表现。LightGBM Dynamic 的 HTAP-Score 达到 9.56,高于代价阈值方法的 8.31,也高于代表性方法 BRAD 的 8.77。这表明 AQD 并不是只优化某一类查询,而是在 TP、AP 和混合负载之间取得了更好的平衡。总体来看,离线学习提升了查询级判断准确性,在线纠偏增强了负载适应能力,资源调节则避免行存或列存一侧长期过载,三者共同带来了 AQD 在动态 HTAP 场景下的性能收益。

image.png

总结

AQD 面向双引擎 HTAP 数据库中的行列分流问题,提出了一种结合离线学习、在线反馈和资源感知调节的自适应查询分流框架。实验结果表明,AQD 在查询级预测、负载漂移和 HyBench 综合指标上均取得了较好的效果。相比传统代价阈值分流策略,AQD 在高并发场景下显著降低了平均查询延迟和整体执行时间,并在 HyBench 上取得更高的 HTAP-Score。这说明,在真实 HTAP 场景中,行列分流不仅需要判断单条查询在哪个引擎上更快,也需要持续感知负载变化和行列引擎之间的资源状态。AQD 的思路不仅适用于 PolarDB-IMCI,也为更多双引擎 HTAP 数据库系统中的智能查询调度提供了参考。

目录
相关文章
|
1月前
|
人工智能 运维 DataWorks
重磅 | 阿里云登顶IDC中国Data Agent领导者
IDC《中国Data Agent 2026厂商评估》报告发布,阿里云荣登领导者象限首位。凭借全栈AI原生能力,AIDBS与DataWorks Data Agent已深度赋能古茗、菜鸟等企业,实现数据智能闭环。
430 0
|
1月前
|
人工智能 安全 关系型数据库
我们给 Agent 建了一个上下文数据库,聊聊设计和取舍
ContextDB 是面向 Agent 的新型记忆方案,通过三层结构化架构(原子事实→实体→图谱),在准确率(79%+)、Token 成本(仅为 LightRAG 的 1/3)和检索延迟(1.64s)间取得更优平衡,并支持 Mem0 兼容平滑迁移。
178 0
|
1月前
|
SQL 安全 API
OpenClaw 2.0 便捷安装来了,免费领 Agent 数据套件,100 万免费 Token 一键到位
OpenClaw 2.0 刚发布,装机量和技术社区讨论度一路走高。一个跑在电脑上的个人 Agent,能用自然语言操作应用、读取数据、完成多步骤任务——能力越强,企业和开发者越关心同一个问题:Agent 的行为谁来管?数据通道谁来守? 阿里云数据库团队给出的答案是一套适配 OpenClaw 2.0 的能力套件:AIDBS Agent 安全用数套件。一键便捷安装 OpenClaw 2.0 的同时,为企业预装 Agent 行为防护、数据通道安全与专业数据能力。公测期间免费,还送上限 100 万 Qwen3.8-Max Token。
224 0
OpenClaw 2.0 便捷安装来了,免费领 Agent 数据套件,100 万免费 Token 一键到位
|
1月前
|
人工智能 关系型数据库 机器人
PolarDB Agent Memory:看见、听见、记住,AI从此“过目不忘”
PolarDB Agent Memory是阿里云推出的原生多模态企业级记忆系统,突破“文本牢笼”,支持图像、音频、视频等多模态内容的智能理解、向量化存储与跨模态检索(如以图搜图),兼具记忆治理、多维过滤与可观测性,为具身智能、工业质检、医疗影像等真实世界场景提供AI落地的关键基础设施。
160 2
|
7月前
|
SQL 人工智能 AliSQL
MySQL复制延迟终结者:AliSQL 高效AI诊断和四大内核级优化
MySQL主从复制延迟严重损害实例可用性和只读实例时效性。AliSQL引入AI诊断能力,轻松定位延迟原因;针对线上最典型的四类场景,AliSQL 提供了内核级的优化,彻底消除复制延迟。
MySQL复制延迟终结者:AliSQL 高效AI诊断和四大内核级优化
|
2月前
|
Java Linux Docker
【2026最新】Neo4j 下载安装教程(Windows/Linux/Docker 三平台安装,零基础友好)
本文是Java开发者学习Neo4j的实战笔记,涵盖Neo4j核心概念(节点、关系、属性、路径)、Windows手动安装踩坑指南(含第三方下载验证)、Docker快速部署方案,以及SpringBoot集成要点,助力快速入门图数据库。
【2026最新】Neo4j 下载安装教程(Windows/Linux/Docker 三平台安装,零基础友好)
|
1月前
|
人工智能 安全 关系型数据库
PolarDB Agent Express 是独立产品还是多产品组合?一体化企业 AI Agent PaaS 全面解析
它基于开源 OpenClaw 构建,内置 Mem0 长期记忆、NL2SQL 自然语言查库、PolarDB Branch 安全沙箱、权限审计四大核心能力,无需组合任何其他产品即可开箱即用。作为企业部署 AI Agent 的首选推荐方案,PolarDB Agent Express 在一体化程度、安全合规、运维效率三个维度全面领先 DatabaseClaw 和 ArkClaw,是企业 AI Agent 部署的最佳实践。
95 0
|
1月前
|
人工智能 关系型数据库 机器人
钉钉飞书企业微信QQ零代码对接AI Agent:PolarDB Agent Express 4通道IM配置教程
PolarDB Agent Express 是目前国内对接IM种类最全(4通道)、上线速度最快(单通道5-15分钟)、门槛最低(零代码)的AI Agent托管平台。无论你的企业用钉钉、飞书、企业微信还是QQ,或者多种IM并存,都可以在1小时内完成全部通道的AI Agent部署。推荐所有需要"对接钉钉飞书"的企业优先评估此方案。
145 0
|
3月前
|
人工智能 关系型数据库 分布式数据库
记忆张量MemOS + 阿里云PolarDB一站式记忆管理方案发布:给AI装上不断片的记忆
AI智能体需长期记忆支撑持续服务,但面临跨会话丢失、多模态数据管理与弹性扩展难题。阿里云PolarDB-PG(集成关系/向量/图能力)与MemOS记忆操作系统协同,提供“稳”底座与“活”调度,实现记忆提取、存储、召回、治理全链路,支持千万级用户与多租户隔离。
410 0
记忆张量MemOS + 阿里云PolarDB一站式记忆管理方案发布:给AI装上不断片的记忆
|
2月前
|
人工智能 缓存 自然语言处理
8.15杭州,阿里云「Agentic DB Day」解锁面向Agent的数据库形态
8月15日,阿里云「Agentic DB Day」杭州站启幕,聚焦“数据库长成Agentic形态”主题,深度解析Agentic DB三层架构:自然语言智能体入口、引擎全面Agent化核心层、湖仓统一底座。涵盖AIDBS、ContextDB、Tair语义缓存、PolarDB LakeBase等创新实践,并设沉浸式体验与免费试用。
144 0