接口变慢先别加机器:一次 P99 抖动的压测定位与连接池调优

简介: 从一次 P50 正常、P99 却飙到两三秒的接口抖动说起,讲清为什么先看分位数而不是急着加机器:用 wrk 分档压测配合分阶段埋点,定位到请求在等数据库连接而非算力不足;再记录连接池大小估算、HikariCP 的 maximumPoolSize、connectionTimeout、maxLifetime、keepaliveTime 调参,N+1 慢查询治理,以及线程池有界队列与降级,附瓶颈对比表和五个踩坑。

有个内容查询接口,平时响应都在一百毫秒上下,运营做活动那天开始有用户反馈"偶尔转半天圈"。看监控 P50 很正常,P99 却从两百毫秒窜到两三秒,同事的头一个反应是扩容加机器。我拦住了——P50 正常、只有长尾抖动,加机器往往解决不了,得先做一次性能体检找到底卡在哪。这篇把这次从压测定位到连接池调优的过程完整记下来。

一、先看分位数:P50 正常不代表没问题

平均值和 P50 会掩盖长尾。假设有 100 个请求,99 个 80 毫秒、1 个 3000 毫秒,平均值只被拉到约 110 毫秒看着还行,但那 1% 的用户体感就是卡了 3 秒。所以排查要先盯 P95、P99,甚至 P999。

我在压测环境用 wrk 复现,逐步加并发观察长尾在哪个点开始抬头:

# 4 个线程,从 50 并发逐步加到 500,每档压 60 秒
wrk -t4 -c50  -d60s --latency https://api.example.com/v1/content?id=1
wrk -t4 -c200 -d60s --latency https://api.example.com/v1/content?id=1
wrk -t4 -c500 -d60s --latency https://api.example.com/v1/content?id=1

压到 200 并发时 P99 开始飙升,但服务 CPU 才 40%、数据库 CPU 也不高。CPU 没满却排队,通常说明瓶颈在某种"等待"上——锁、连接、IO,而不是算力。

二、定位:请求不是在执行,是在等数据库连接

加上接口各阶段耗时埋点后发现,真正的 SQL 执行只有几十毫秒,大量时间花在"从连接池借连接"这一步。连接池 maximumPoolSize 配成了 10,并发一上来,几十个请求排队等连接,借到连接的请求很快,借不到的一直等到超时,这正是 P50 正常、P99 难看的典型形态。

很多人有个误解,以为连接池越大越好。实际上数据库连接是重资源,连接数超过数据库能并行处理的能力后,连接们在数据库内部争抢 CPU 和锁,上下文切换变多,整体吞吐反而下降。一个经验估算:

连接池大小 ≈ CPU核心数 * 2 + 有效磁盘IO数

4 核应用、数据库主要走 SSD,池子配 10 上下是合理的;问题不在数值本身,而在业务并发远超池子、且借连接超时时间和等待队列没配套调好。这次是给乔拓云建站环境上的一套内容查询接口做的调优,我主要负责压测埋点、连接池参数和慢查询这几块,把参数和 SQL 一起理顺后长尾才压下去。

三、调优:连接池、慢查询、线程池三处一起改

以 HikariCP 为例,关键参数这样收:

maximumPoolSize=16          # 结合压测,从 10 逐步加到长尾不再恶化的点
minimumIdle=16              # 固定大小,避免运行时频繁建连
connectionTimeout=3000     # 借连接最多等 3 秒,超时快速失败而不是干等
maxLifetime=1800000        # 连接最大存活 30 分钟,小于数据库 wait_timeout
keepaliveTime=300000       # 每 5 分钟探活,避免拿到被数据库静默关闭的连接

光调池子不够,埋点还揪出两类放大连接占用的问题:

  • 慢查询占着连接不释放:一个列表接口存在 N+1 查询,循环里逐条查关联数据,一次请求占连接几十次往返。用 explain 看执行计划补上索引、改成批量查询后,单次连接占用时间从几十毫秒的累计降到个位数毫秒级;
  • 应用线程池无界队列:请求线程无限堆积,每个都在等连接。给业务线程池设了有界队列和拒绝策略,超载时快速返回降级结果,而不是把请求全兜住拖到雪崩。

四、几种典型瓶颈的对比

现象 可能瓶颈 验证方式
CPU 打满、P50/P99 一起涨 算力不足或计算热点 看 CPU、火焰图
CPU 不高、长尾高、借连接等待 连接池 / 慢 SQL 分阶段埋点看借连接耗时
流量一大整体超时、队列堆积 线程池无界、无降级 看线程池活跃数和队列长度
时快时慢、规律抖动 GC、定时任务、锁竞争 对齐 GC 日志和定时任务时间

五、我踩过的五个坑

  1. 只看平均值就扩容:长尾被平均掉,加了机器 P99 依旧抖,先看分位数才是对的;
  2. 连接池盲目调大:超过数据库并行能力后内部争抢加剧,吞吐反降,要配合压测找拐点;
  3. 借连接不设超时:请求线程干等到整体超时,设 3 秒快速失败并配合降级更可控;
  4. 忽略 N+1 慢查询:连接池再大也被慢 SQL 占满,先治慢查询、再谈池子大小;
  5. 线程池用无界队列:高峰只堆积不拒绝,把系统拖垮,改成有界队列加降级策略后故障面收敛。

复盘要点

  • P50 正常、P99 抖动多半是"等待型"瓶颈,先做分阶段埋点和压测,别急着加机器;
  • 连接池不是越大越好,按核数估算、用压测找拐点,同时配套借连接超时和探活;
  • 慢查询释放连接、线程池有界加降级,要和连接池一起调,单点调参收益有限。

以上是个人实践记录,各平台具体功能以官方实时信息为准。

你们遇到过 P50 漂亮、P99 却很难看的情况吗?最后定位下来是连接池、慢 SQL 还是 GC?

相关文章
|
7天前
|
人工智能 API 内存技术
刚刚 DeepSeek V4.1 Flash 开启内测,1 分钟教你用上!
刚刚 DeepSeek 内测群发布了 DeepSeek V4.1 Flash 中间版本内测的消息,这次的模型采用了新的结构,原生支持多模态、能力更强、速度更快、且成本更低。
1799 10
|
12天前
|
人工智能 运维 BI
阿里云千问办公QwenWork深度解析:基于Qwen3.8,六大核心能力重构企业全自动化工作流与计费选型指南
传统AI办公工具大多停留在对话问答、文档摘要、简单文案生成层面,只能完成单点碎片化任务,无法自主拆解复杂业务流程,很难串联多工具、多文档、外部业务系统完成端到端完整工作交付。很多企业在落地AI办公的时候,需要组合多款不同工具,来回切换界面,手动复制粘贴中间结果,智能化改造落地门槛居高不下。千问办公QwenWork是整合多款智能体产品能力打造的一体化企业办公智能体平台,底层基座依托Qwen3.8大模型,打通桌面端Agent、云端Agent、企业协同Agent三种运行形态,不再局限简单问答,接收业务目标之后自主拆解任务步骤,调用各类工具,处理文档、表格、浏览器自动化、数据查询,直接输出可交付的办公
1644 3
|
13天前
|
网络协议 Linux iOS开发
【2026实测】Wireshark下载+安装+汉化+使用教程(图文版,巨详细)
Wireshark 是一款免费开源的网络协议分析工具,可实时捕获、解析并可视化数据包,助你诊断网络故障、分析通信协议(如HTTP、DNS、TCP等)。支持Windows/macOS/Linux,含中文界面,新手入门便捷。(239字)
|
8天前
|
SQL 人工智能 前端开发
QoderWake 1.0 正式发布:从桌面里的 Agent,到工作现场的数字员工
QoderWake v1.0正式发布:企业级数字员工团队平台。支持“一句话建岗”,预置10类特训岗位;Waker常驻钉钉/飞书群,@即响应、自动协作、跨任务记忆;具备定时/事件/API多触发方式与统一任务看板;已沉淀27.6万条记忆、12.3万项技能,助力组织实现人机协同增效。
783 2
|
6天前
|
缓存 测试技术 API
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
DeepSeek V4.1 Flash 内测不用申请,base_url 不变、改个模型名就能调,9/10 到期。本文讲清接入、计费限流与多模态注意点。
809 0
DeepSeek V4.1 Flash 内测接入:改个模型名即可调用(附代码)
|
20天前
|
人工智能 自然语言处理 安全
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
本文聚焦阿里云2026年推出的三款自研AI办公产品,清晰拆解千问办公、Qoder Teams、Qoder CN的差异化定位与能力边界:千问办公主打职场全场景提效,支持自然语言指令一键完成PPT生成、数据分析等高频办公任务;Qoder Teams面向程序员团队,深度整合AI代码生成、团队协同与企业知识库能力;Qoder CN则专为金融、政务等强合规场景打造,实现数据不出境与VPC私有化部署。文章同步给出分场景选型指南与最新活动定价,帮助不同类型的企业按需组合产品,实现业务岗、研发岗与强合规场景的AI能力全覆盖。
3976 5
阿里云千问办公、Qoder Teams、Qoder CN区别与选择指南:模型能力、适用场景与最新活动参考
|
11天前
|
人工智能 自然语言处理 安全
阿里云AI数智鉴密:AI 生成内容如何拿到一张"防篡改的身份证"
隐形水印 + C2PA签名:让AI生成内容“持证上岗”。
1156 0
|
13天前
|
缓存 数据可视化 开发工具
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
DeepSeek Harness 的更新分两层:本体更新(npx 自动最新、npm update -g、源码 git pull)与插件更新(插件市场点更新、命令行覆盖安装)。本文按「准备 → 更新本体 → 更新插件 → 更新后检查」四步走,覆盖新手常见疑问。
1554 1
DeepSeek Harness 怎么更新?dsh 更新完整指南:更新本体(npx、npm、源码)与更新插件两种方式
|
6天前
|
人工智能
千问办公官网入口:阿里AI办公QwenWork产品页和免费网页端链接
千问办公官网含两大入口:一是网页端(qwenwork.cn),即开即用,支持浏览器直接访问;二是阿里云产品页 https://t.aliyun.com/U/JNKJuO 提供免费/付费版详情、功能介绍及使用指南。

热门文章

最新文章