开发者社区 问答 正文

写入数据需要注意什么?

  • 每秒写入点数不超过 50000,超过 50000 会导致此次批量写入失败。 请使用并发+批量的方式写入数据,推荐并发大于 256,推荐批量数大于 400。
  • HiTSDB 使用类似 TCP 的 Nagle 算法,在每秒写点数较少时,单台 HiTSDB 会等到至少 2000 个点,或者 2 秒超时到达才会写数据,因此当每秒写入点数少于(2 台 HiTSDB 做负载)4000 时,RT 会变高。

展开
收起
云栖大讲堂 2017-11-03 10:21:42 1265 分享
分享
版权
举报
阿里云 AI 助理回答

您提到的是关于阿里云时序时空数据库(HiTSDB)写入性能和优化策略的问题。根据您的描述,这里有几个关键点需要注意和采取相应的优化措施:

  1. 每秒写入点数限制:HiTSDB 设定了单次写入不超过50000个数据点的限制,以避免单次请求过大导致写入失败。如果您的写入需求超过这个限制,应该采用并发批量写入的方式。

  2. 并发与批量写入建议:为了提高写入效率,推荐设置并发数大于256,并且每个批次的数据点数量大于400。这意味着您可以通过多线程或者异步方式同时发送多个写入请求,每个请求中包含数百至数千个数据点,以此来分散写入压力并提升整体吞吐量。

  3. Nagle算法的影响:HiTSDB采用了类似TCP中的Nagle算法来减少小包的发送,以提高网络效率。这意呀着在低频写入场景下(每秒写入点数少于4000,特别是当有两台HiTSDB实例做负载均衡时),系统会等待积累到至少2000个数据点或2秒超时后才执行写入操作,从而可能导致响应时间(RT)增加。为减轻这一影响,确保您的写入策略能够维持在一个较高的频率,使得数据能更频繁地被触发写入。

针对上述情况,您可以考虑以下优化措施: - 调整写入策略:确保每次写入的数据量接近或达到推荐的批量大小(>400点/批),通过合理的数据组织和打包策略来实现。 - 增加并发度:利用多线程、异步IO等技术手段,增加客户端的并发写入能力,使并发数达到或超过256。 - 负载均衡:如果您已经部署了多台HiTSDB实例,确保写入流量均匀分布在这些实例上,充分利用集群的处理能力。 - 监控与调优:利用阿里云提供的监控工具,持续监控写入性能和延迟,根据实际情况动态调整写入策略和配置。

最后,考虑到实际应用场景的多样性,可能还需要结合具体业务逻辑和资源状况进行细致的调整和测试,以达到最佳的写入性能。

有帮助
无帮助
AI 助理回答生成答案可能存在不准确,仅供参考
0 条回答
写回答
取消 提交回答
问答分类:
问答地址:
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等