开发者社区 > 云原生 > 中间件 > 正文

Sentinel如果client的请求量很大会不会影响整个业务请求的耗时?

Sentinel如果client的请求量很大,那token-server会不会有可能成为瓶颈,影响整个业务请求的耗时?

展开
收起
陈幕白 2024-01-23 22:13:43 68 0
2 条回答
写回答
取消 提交回答
  • 是的,Sentinel在集群限流模式下,Token Server负责全局的流量控制,即按照预设的规则分配令牌给各个客户端。如果Client的请求量非常大,尤其是在高并发场景下,Token Server可能会成为整个系统的瓶颈:

    1. CPU占用过高:Token Server需要处理大量的令牌请求,这会导致CPU负载增大,特别是当令牌计算、发放和验证操作密集时。

    2. 网络带宽受限:频繁的网络通信也会增加Token Server的网络带宽消耗,如果网络通道成为瓶颈,会影响令牌的下发速度。

    3. 内存和磁盘IO:在实现Token Server高可用时,如果涉及到数据同步或持久化,内存和磁盘IO也可能成为潜在的瓶颈。

    4. 响应延迟:随着请求量的增长,Token Server处理请求的响应时间可能会变长,进而影响客户端请求的耗时,甚至可能导致部分请求超时。

    为了避免这种情况发生,通常需要对Token Server进行水平扩展,通过集群部署的方式提高其处理能力。此外,还可以通过优化Token Server的实现,如采用高效的并发处理模型、异步非阻塞IO、缓存策略等技术手段降低单个请求的处理成本。同时,合理的限流降级策略也是非常关键的,确保在流量激增时能有效保护系统的核心服务不受影响。

    2024-01-26 22:09:27
    赞同 展开评论 打赏
  • 是有可能的,可以使用批量模式,牺牲一些准确性,每次多申请一些token。此回答整理自钉群“Sentinel 开源讨论群-4群”

    2024-01-23 22:51:29
    赞同 展开评论 打赏
问答分类:
问答地址:

为企业提供高效、稳定、易扩展的中间件产品。

相关电子书

更多
阿里云容器 AHAS Sentinel 网关流控揭秘 立即下载
workshop专场-微服务专场-开发者动手实践营-微服务-使用Sentinel进行微服务流量控制 立即下载
Sentinel分布式系统下的流量防卫兵 立即下载