在月费 1,000 美元的基准测试中,阿里云 Milvus EAGLE 单机性能增强型 32CU 实例达到 23,358 QPS,召回率为 98.11%。吞吐约为图中 QdrantCloud 参测配置的 52 倍,也高于其他参测配置。
对 RAG、推荐召回和在线搜索来说,这意味着同样的预算可以承接更多查询。选型时可以先看目标:追求性能,优先选性能型内存索引;更看重成本和容量,优先选容量型磁盘索引。下面分别看两条路线的实测表现。
数据装得下,先看内存索引
阿里云 Milvus 性能型实例通过 AUTO INDEX 使用 EAGLE 内存索引,适合查询频繁、对延迟要求较高的业务。
99% 召回下,峰值达到 12.79 万 VPS
这组测试使用 Cohere 10M 数据集,共 1,000 万条 768 维 float 向量,实例为单机性能增强型 64CU。
检索任务 |
召回率 |
峰值吞吐 |
TopK=10 |
99.0% |
127,910 VPS |
TopK=100 |
99.0% |
25,421 VPS |
TopK 是每次返回的近邻数量。返回 10 个结果时,峰值约为每秒 12.79 万条查询向量;返回 100 个结果时,仍有约 2.54 万。这里沿用图中的 VPS,即每秒查询向量数。
同样的月费预算,能跑多少查询
另一组测试按月费 1,000 美元比较 10M 数据集上的性能,阿里云使用单机性能增强型 32CU。其中三组配置的结果如下:
参测配置 |
QPS |
召回率 |
P99 延迟 |
阿里云 Milvus,性能增强型 32CU |
23,358 |
98.11% |
1.82 毫秒 |
ZillizCloud,8CU 性能型 |
7,385.21 |
93.84% |
2.1 毫秒 |
QdrantCloud,16c64g |
446.91 |
93.57% |
9.2 毫秒 |
与吞吐最接近的 ZillizCloud 配置相比,EAGLE 的 QPS 约为其 3.16 倍,召回率高 4.27 个百分点。在线请求量越大,单位预算能承接多少查询就越值得关注。
这张图与前面的 64CU 测试使用不同配置和指标口径,结果分别看即可。
数据涨到亿级,再看磁盘索引
数据持续增长,全放在内存里的投入也会增加。EAGLE 的容量型实例采用磁盘索引,通过 DiskANN 与 RaBitQ 融合、向量量化和图布局优化,减少内存占用,改善磁盘访问效率。容量型单机和容量型集群都通过 AUTO INDEX 使用这条路线。
亿级向量,TopK=100
测试使用 Laion 100M 数据集,阿里云配置为单机容量型 32CU,TopK=100:
- 召回率 98.56%。
- 80 并发下达到 1,474.5 QPS,约为其余参测方案的 2.05~9.27 倍。
- 串行测试的 P99 为 9.6 毫秒,低于图中其他方案。
QPS 来自 80 并发测试,P99 来自单连接、单线程测试。竞品 3 的 QPS 是充分预热后的结果。
一次取回 100 万条结果
提取训练集、测试集或大批候选结果时,TopK 会远高于普通在线检索。在同一 Laion 100M 数据集上,将 TopK 提高到 100 万后,EAGLE 的召回率为 97.53%,单查询 P99 为 3.53 秒。
相比竞品 1,P99 低约 28.3%;相比竞品 2,延迟接近,召回率高 6.52 个百分点。其余参测方案未完成本轮查询。
大 TopK 优化可通过 collection 属性开关开启,无需重建索引或重新加载,也不影响小 TopK 性能。
把月费和吞吐放在一起看
在上述 Laion 100M 测试中,阿里云单机容量型 32CU 的计算费用目录价为 6,752 元/月,比图中竞品月费低约 25%~76%。
用实测 QPS 除以图示月费,再折算到每万元月成本,阿里云约为 2,183 QPS,其余参测方案为 65~642 QPS,单位月费对应的吞吐相差约 3.4~34 倍。
这一指标采用 TopK=100 的吞吐计算。实际采购时,还要把存储、副本等费用一起算进去,目录价也要换成自己的实际报价。
业务里怎么选
对标检索性能,就优先选性能型 AUTO INDEX(内存索引)。它侧重高吞吐、低延迟,适合在线请求频繁、响应时间要求高的业务,同时要给数据和索引留足内存。
更看重成本,就优先选磁盘型,也就是产品中的容量型 AUTO INDEX。它通过磁盘承载大规模数据,减少内存投入,适合亿级数据或持续增长的知识库。选型时先确认召回率和延迟满足业务要求,再比较包含计算、存储、副本的完整费用。
落到自己的业务上,拿实际向量、过滤条件和查询负载跑一轮。比较时固定召回目标、TopK 和并发,记录预热状态、实例配置与副本数,并为后续增长留些余量。