在Apache Flink中手动更新状态的最佳方法是什么?-问答-阿里云开发者社区-阿里云

开发者社区> 问答> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

在Apache Flink中手动更新状态的最佳方法是什么?

2018-12-05 15:20:53 1387 1

我在股票市场项目中使用Apache Flink来计算当前的价格变化。公式是
price_change = (current_price - previous_close_price) / previous_close_price
previous_close_price是交易所前一天的证券收盘价。在市场开放前的每一天,我都需要更新previous_close_price。
现在我想出了几个解决方案,但我不知道哪个是最好的。

  1. 存储previous_close_price在redis中并在每次计算中获取价格。更新价格既简单又灵活,但此解决方案可能会降低性能。
  2. 将状态的TTL设置为1天。旧状态到期时获取新状态。但它不灵活,因为TTL是硬编码的。
  3. 广播状态模式。我不确定这个解决方案是否有效。
  4. 发送特殊消息给flink。当flink收到消息时,它会更新previous_close_price。
取消 提交回答
全部回答(1)
  • 社区小助手
    2019-07-17 23:18:25

    我建议在#4上使用一个变体:
    有两个来源,一个仅用于收盘价,另一个用于交易流。通过安全性键入两个流,并将它们与CoProcessFunction连接。将previous_close_price存储在CoProcessFunction中的键控状态。
    每天,在市场开放之前,以最新的收盘价流动。
    这可以使用RichCoFlatMap完成,但我建议使用CoProcessFunction,因为您可能希望使用侧输出来报告错误(例如缺少previous_close_price的证券)。
    至于其他方法:

    1. 我认为将previous_close_price数据保存在外部数据存储中没有任何好处。
    2. 我觉得这不太好用。没有可用于触发新数据加载的钩子,而且只有在访问状态时才会清除状态。
    3. 这对广播状态来说不是一个好的用例,除非集群中的每个人都需要知道所有证券的收盘价。
    0 0
相关问答

1

回答

Apache RocketMQ中  QuorumAckChecker如何理解?

2021-11-20 20:01:43 208浏览量 回答数 1

1

回答

Apache RocketMQ中 QuorumAckChecker类图如何理解?

2021-11-20 20:21:09 250浏览量 回答数 1

1

回答

Apache RocketMQ中 ·MmapFileList#preAppend如何理解?

2021-11-20 19:31:01 161浏览量 回答数 1

1

回答

Apache RocketMQ中 2. MmapFileList 的 append 如何理解?

2021-11-20 19:29:33 142浏览量 回答数 1

1

回答

Apache RocketMQ 中 ThreadPoolExecutor traceExecuter

2021-11-19 20:44:01 298浏览量 回答数 1

1

回答

Apache RocketMQ 中traceExecuter如何理解?

2021-11-19 20:25:58 163浏览量 回答数 1

1

回答

Apache RocketMQ 中TraceDispatcher 实现原理是什么?

2021-11-19 20:26:37 263浏览量 回答数 1

1

回答

Apache RocketMQ 中TraceDispatcher 如何构造函数?

2021-11-19 20:27:00 134浏览量 回答数 1

1

回答

Apache RocketMQ 中ArrayBlockingQueue<TraceContext>

2021-11-19 20:41:18 127浏览量 回答数 1

1

回答

Apache RocketMQ 中 ArrayBlockingQueue<Runnable> app

2021-11-19 20:56:42 141浏览量 回答数 1
+关注
社区小助手
社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。
文章
问答
问答排行榜
最热
最新
相关电子书
更多
《Apache Flink-重新定义计算》PDF下载
立即下载
《基于 Flink 的全新 Pulsar Connector 的设计、开发和使用》
立即下载
《Apache RocketMQ 源码解析》
立即下载