同等预算,向量检索吞吐最高约52倍!阿里云 Milvus EAGLE 内存索引性价比实测

简介: 阿里云Milvus EAGLE单机性能强劲:1000美元月费下达23,358 QPS(98.11%召回),吞吐超竞品最高52倍;亿级数据下仍保持高召回与低延迟,兼顾性能与成本。

在月费 1,000 美元的基准测试中,阿里云 Milvus EAGLE 单机性能增强型 32CU 实例达到 23,358 QPS,召回率为 98.11%。吞吐约为图中 QdrantCloud 参测配置的 52 倍,也高于其他参测配置。

对 RAG、推荐召回和在线搜索来说,这意味着同样的预算可以承接更多查询。选型时可以先看目标:追求性能,优先选性能型内存索引;更看重成本和容量,优先选容量型磁盘索引。下面分别看两条路线的实测表现。

数据装得下,先看内存索引

阿里云 Milvus 性能型实例通过 AUTO INDEX 使用 EAGLE 内存索引,适合查询频繁、对延迟要求较高的业务。

99% 召回下,峰值达到 12.79 万 VPS

这组测试使用 Cohere 10M 数据集,共 1,000 万条 768 维 float 向量,实例为单机性能增强型 64CU。

检索任务

召回率

峰值吞吐

TopK=10

99.0%

127,910 VPS

TopK=100

99.0%

25,421 VPS

TopK 是每次返回的近邻数量。返回 10 个结果时,峰值约为每秒 12.79 万条查询向量;返回 100 个结果时,仍有约 2.54 万。这里沿用图中的 VPS,即每秒查询向量数。

同样的月费预算,能跑多少查询

另一组测试按月费 1,000 美元比较 10M 数据集上的性能,阿里云使用单机性能增强型 32CU。其中三组配置的结果如下:

参测配置

QPS

召回率

P99 延迟

阿里云 Milvus,性能增强型 32CU

23,358

98.11%

1.82 毫秒

ZillizCloud,8CU 性能型

7,385.21

93.84%

2.1 毫秒

QdrantCloud,16c64g

446.91

93.57%

9.2 毫秒

与吞吐最接近的 ZillizCloud 配置相比,EAGLE 的 QPS 约为其 3.16 倍,召回率高 4.27 个百分点。在线请求量越大,单位预算能承接多少查询就越值得关注。

这张图与前面的 64CU 测试使用不同配置和指标口径,结果分别看即可。

数据涨到亿级,再看磁盘索引

数据持续增长,全放在内存里的投入也会增加。EAGLE 的容量型实例采用磁盘索引,通过 DiskANN 与 RaBitQ 融合、向量量化和图布局优化,减少内存占用,改善磁盘访问效率。容量型单机和容量型集群都通过 AUTO INDEX 使用这条路线。

亿级向量,TopK=100

测试使用 Laion 100M 数据集,阿里云配置为单机容量型 32CU,TopK=100:

  • 召回率 98.56%。
  • 80 并发下达到 1,474.5 QPS,约为其余参测方案的 2.05~9.27 倍。
  • 串行测试的 P99 为 9.6 毫秒,低于图中其他方案。

QPS 来自 80 并发测试,P99 来自单连接、单线程测试。竞品 3 的 QPS 是充分预热后的结果。

一次取回 100 万条结果

提取训练集、测试集或大批候选结果时,TopK 会远高于普通在线检索。在同一 Laion 100M 数据集上,将 TopK 提高到 100 万后,EAGLE 的召回率为 97.53%,单查询 P99 为 3.53 秒。

相比竞品 1,P99 低约 28.3%;相比竞品 2,延迟接近,召回率高 6.52 个百分点。其余参测方案未完成本轮查询。

大 TopK 优化可通过 collection 属性开关开启,无需重建索引或重新加载,也不影响小 TopK 性能。

把月费和吞吐放在一起看

在上述 Laion 100M 测试中,阿里云单机容量型 32CU 的计算费用目录价为 6,752 元/月,比图中竞品月费低约 25%~76%。

用实测 QPS 除以图示月费,再折算到每万元月成本,阿里云约为 2,183 QPS,其余参测方案为 65~642 QPS,单位月费对应的吞吐相差约 3.4~34 倍。

这一指标采用 TopK=100 的吞吐计算。实际采购时,还要把存储、副本等费用一起算进去,目录价也要换成自己的实际报价。

业务里怎么选

对标检索性能,就优先选性能型 AUTO INDEX(内存索引)。它侧重高吞吐、低延迟,适合在线请求频繁、响应时间要求高的业务,同时要给数据和索引留足内存。

更看重成本,就优先选磁盘型,也就是产品中的容量型 AUTO INDEX。它通过磁盘承载大规模数据,减少内存投入,适合亿级数据或持续增长的知识库。选型时先确认召回率和延迟满足业务要求,再比较包含计算、存储、副本的完整费用。

落到自己的业务上,拿实际向量、过滤条件和查询负载跑一轮。比较时固定召回目标、TopK 和并发,记录预热状态、实例配置与副本数,并为后续增长留些余量。

目录
相关文章
|
2月前
|
存储 人工智能 算法
阿里云 Milvus 自研内核 EAGLE 发布:向量检索的SOTA,我们决定自己造
阿里云Milvus全新自研内核EAGLE发布:在全内存场景和内存磁盘混合场景下,性能与性价比双突破。实测吞吐领先、P99延迟大幅降低。完全开源可复现,拒绝“拼凑式” benchmark——真性能,经得起物理规律与真实业务检验。
375 5
|
10天前
|
存储 缓存 运维
亿级向量检索月费最高省约76%!阿里云 Milvus EAGLE 磁盘索引对比实测
阿里云Milvus EAGLE内核采用磁盘索引优化,1亿向量仅需单机32CU容量型实例(6752元/月),Laion 100M测试中每万元月成本达2183 QPS,为竞品的3.4~34倍,且召回率98.56%更高,兼顾高性能与低成本。
152 2
|
9月前
|
人工智能 弹性计算 机器人
一次成功!OpenClaw(Clawdbot)搭建钉钉 AI 员工,抄作业就行
OpenClaw(Clawdbot)是现代化RPA平台,支持零代码搭建钉钉AI员工。本文提供一站式部署教程:5步完成云服务创建,7步配置钉钉机器人,含Client ID/Secret、卡片模板、Webhook等关键操作,新手30分钟即可上线。
|
4月前
|
SQL 人工智能 缓存
阿里云 EMR Serverless StarRocks(Stella 2.2.0)发布:多模态处理与分析闭环,内表与湖表统一检索
Stella 2.2 面向 AI 时代的数据基础设施,打通“多模态数据处理—向量化与理解—多路检索—分析消费”的完整闭环。无论数据沉淀在 Paimon 湖表,还是 StarRocks 存算分离内表,都可以在统一 SQL 入口下组合结构化分析、全文检索、向量检索与 AI Function,服务智能驾驶、具身智能、内容与商品理解、企业知识库和 RAG 等场景。
660 2
|
4月前
|
人工智能 分布式计算 Serverless
阿里云 EMR Serverless Spark 全托管 Ray 再进化:加速构建全模态数据处理新基建
阿里云 EMR Serverless Spark + Ray 双引擎构建全模态数据处理的新基建,通过极致内核优化和统一数据、算力底座,彻底打通了大数据工程与 AI 模型训练的割裂。结合 RayData、Daft、Data-Juicer 等多模态引擎,以及 CPFS、OSS 等高性能存储生态,阿里云正在为全球的 AI 开发者提供一套最具竞争力的数据新基建。
668 0
阿里云 EMR Serverless Spark 全托管 Ray 再进化:加速构建全模态数据处理新基建
|
7月前
|
缓存 人工智能 文字识别
大模型应用:多模态图文精准识别:基于本地化OCR模型应用实践.78
Qwen2-VL-OCR-2B是仅2B参数的轻量多模态OCR智能体,深度融合视觉感知与语言理解,可精准识别倾斜文字、复杂排版及多语言混合内容。支持CPU/GPU自动适配、指令式调用与全格式图片,本地部署安全高效,适用于文档、合同、海报等场景。
1066 10
|
人工智能 小程序 Java
电子班牌管理系统源代码,基于AI人脸识别技术的智能电子班牌云平台解决方案
电子班牌管理系统源码,基于AI人脸识别的智慧校园云平台,支持SaaS架构,涵盖管理端、小程序与安卓班牌端。集成考勤、课表、通知、门禁等功能,提供多模式展示与教务联动,助力校园智能化管理。
538 0
|
11月前
|
人工智能 运维 自然语言处理
朝阳永续基于阿里云 Milvus 构建金融智能投研产品“AI 小二”
朝阳永续通过采用阿里云向量检索服务 Milvus 版,构建了金融级智能投研引擎“AI 小二”,实现了对海量公告、研报和财报数据的高效语义检索。在智能问答、管理层表述分析等场景中,查询响应速度提升超 10 倍,系统稳定性显著增强,运维成本降低 80%,全面提升了投研效率与用户体验。
1198 0

热门文章

最新文章