开发者社区> 问答> 正文

减少数据链路中的 buffer 总量的具体操作有哪些?

减少数据链路中的 buffer 总量的具体操作有哪些?

展开
收起
游客6lve7fjcitvo6 2022-05-13 23:17:32 1018 0
来自:阿里技术
1 条回答
写回答
取消 提交回答
  • 上游输出端控制单个 sub partition 堆积 buffer 的最大阈值(backlog),避免负载不均场景下单个链路上堆积大量 buffer。在不影响网络吞吐性能的情况下合理修改上下游默认的 buffer 配置上下游数据传输的基础协议进行了调整,允许单个数据链路可以配置 0 个独占 buffer 而不死锁,这样总的 buffer 数量和作业并发规模解耦。根据实际需求在吞吐性能和 checkpoint 速度两者之间权衡,自定义 buffer 配比。

    2022-05-14 08:16:21
    赞同 展开评论 打赏
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
用户态高速块缓存方案 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载