开发者社区 > 数据库 > 数据库管理工具 > 正文

cqrs 如何实现query服务,微服务多个数据库跨库查询如何解决

系统越来越大,跨库查询成为性能瓶颈
订单拥有订单数据库,支付拥有支付数据库,业务场景有根据订单查询支付方式、付款方等和支付信息,根据付款放、支付方式查询订单信息,两个都不在同一个领域,如何做到命令分发(不靠数据冗余的情况,冗余的已经很多了)

理想状态是生成订单和支付成功后实时或者准实时的生成一张订单和支付信息关联结果表用来作为单独的查询库,但是不知道用什么技术实现,希望大家提供一下方案

已调研dts+EventBridge+fc 但是有疑问是 消费有顺序问题 fc会访问多个数据库写代码join更新进目标库性能低下,所有问题又到了fc 没有走通业务,感觉有点不知道怎么处理

展开
收起
游客fceb7nlzze54u 2023-08-14 11:59:18 265 0
7 条回答
写回答
取消 提交回答
  • 公众号:网络技术联盟站,InfoQ签约作者,阿里云社区签约作者,华为云 云享专家,BOSS直聘 创作王者,腾讯课堂创作领航员,博客+论坛:https://www.wljslmz.cn,工程师导航:https://www.wljslmz.com

    对于实现query服务和解决微服务多个数据库跨库查询的问题,可以考虑以下几个方案:

    1. 微服务中的查询服务:在微服务架构中,可以将查询服务作为一个独立的微服务,专门负责处理跨库查询的请求。该查询服务可以与其他微服务进行通信,通过调用不同微服务的API来获取所需的数据,然后进行组合和处理,最终返回给客户端需要的结果。

    2. 数据复制和同步:可以使用数据传输工具(如阿里云的DTS)实现数据的复制和同步。可以将订单数据库和支付数据库的部分数据进行复制和同步到一个共享的查询库中。这样,在查询过程中就可以避免直接跨库查询,提高查询性能。需要注意的是,数据的复制和同步可能会带来数据一致性的问题,需要在设计和实现过程中考虑相关的问题。

    3. 事件驱动架构:使用事件驱动架构(Event-Driven Architecture)来解耦微服务之间的依赖关系。可以通过在订单服务和支付服务中发布事件,然后由订阅这些事件的其他服务进行处理和存储。当有查询请求时,可以直接查询事件存储中的数据,而无需跨库查询。这样可以降低性能瓶颈,并且提供了灵活性和可扩展性。

    4. 分布式缓存:可以使用分布式缓存(如Redis)来缓存一些常用的查询数据,减少对数据库的访问次数。当有查询请求时,首先检查缓存是否有所需数据,如果有则直接返回,如果没有则向数据库查询并存储到缓存中,以供后续查询使用。这样可以提高查询性能和响应速度。

    2023-08-20 22:43:33
    赞同 展开评论 打赏
  • 天下风云出我辈,一入江湖岁月催,皇图霸业谈笑中,不胜人生一场醉。

    聚合根(Aggregate Root)
    聚合根是一种DDD(Domain Driven Design)概念,它表示一个领域中的核心实体。通过将相关的实体组织成一个聚合根,可以将它们的数据存储在一个数据库中。这样,在需要跨多个实体的查询时,只需要访问聚合根所在的微服务即可。
    数据库联邦
    数据库联邦是一种将多个数据库连接起来的技术,它允许跨多个数据库进行查询。通过联邦查询,可以合并来自不同数据库的数据,以获得完整的查询结果。
    在微服务架构中,每个微服务通常有自己的数据库。如果需要在多个微服务之间进行跨库查询,可以考虑以下几种解决方案:
    服务间通信
    在微服务架构中,不同的微服务可以通过服务间通信(如REST API或消息队列)来进行数据交互。通过调用其他微服务的API,可以获取所需的数据,并在本地进行聚合。
    分布式缓存
    分布式缓存是一种将数据存储在多个节点上的技术。通过将数据复制到多个节点上,可以提高读取性能并减少对数据库的负载。在跨库查询时,可以将查询结果缓存到分布式缓存中,以避免重复查询数据库。

    2023-08-15 13:54:43
    赞同 展开评论 打赏
  • 十分耕耘,一定会有一分收获!

    楼主你好,对于阿里云CQRS如何实现Query服务,可以使用阿里云Table Store作为查询库,将查询结果存储在Table Store中,Table Store的读写性能都非常高,可以满足高并发、低延迟的查询需求。同时,Table Store支持分布式事务,也可以保证数据的一致性。

    对于微服务多个数据库跨库查询如何解决,可以使用分布式事务来保证数据的一致性。阿里云提供了基于可靠消息最终一致性的分布式事务解决方案,包括阿里云消息队列(MQ)和阿里云分布式事务服务(DTS)。可以使用DTS将多个数据库的数据同步到一个目标数据库,然后在目标数据库上进行查询,这样就可以避免跨库查询的性能问题。

    如果需要生成一张订单和支付信息关联结果表用来作为单独的查询库,可以使用DTS将两个数据库的数据同步到一个目标数据库,然后在目标数据库上生成关联结果表。关于性能问题,可以考虑使用阿里云函数计算(Function Compute)来处理数据同步和数据生成任务,通过横向扩展函数计算实例来提高处理性能。

    需要注意的是,在使用分布式事务和数据同步的过程中,需要保证消息的顺序性和一致性,否则可能会影响数据的正确性。可以使用阿里云消息队列(MQ)来解决消息的顺序性问题,使用分布式事务服务(DTS)来解决数据的一致性问题。

    2023-08-15 09:30:28
    赞同 展开评论 打赏
  • 在 CQRS 架构中,要实现查询服务并解决跨库查询的性能问题,可以考虑以下方案:

    1. 数据同步和冗余:一种常见的方法是将需要经常进行跨库查询的数据进行冗余存储。例如,在订单数据库中添加支付信息的冗余字段,或者在支付数据库中添加订单信息的冗余字段。这样可以减少跨库查询的频率和性能瓶颈。当生成订单和支付成功时,可以通过事件驱动的方式实时或准实时地更新冗余数据。

    2. 事件驱动架构:使用事件驱动架构可以实现订单和支付信息之间的解耦和异步处理。当生成订单和支付成功时,分别发布相应的事件,并将事件发送到适当的消息队列或事件总线中。查询服务订阅这些事件,并根据事件内容更新查询结果。

    3. 分布式事务和一致性:如果你需要在跨库查询中保持一致性,可以考虑使用分布式事务来管理多个数据库的操作。一种常用的方法是使用两阶段提交(Two-Phase Commit)协议来确保所有相关数据库的操作要么全部成功,要么全部回滚。

    4. 数据集成工具和技术:可以考虑使用数据集成工具和技术来解决跨库查询的问题。例如,使用 ETL 工具或流式计算引擎来将不同数据库的数据进行整合和聚合,生成单独的查询库。这样可以提高查询性能并减少跨库查询的复杂性。

    2023-08-15 08:39:59
    赞同 展开评论 打赏
  • 在使用CQRS(Command Query Responsibility Segregation)架构模式时,实现查询服务可以采用以下方法:

    1. 使用事件驱动架构:在订单和支付微服务中,当订单创建或支付成功时发布相应的事件。其他微服务可以订阅这些事件,并根据需要更新本地的查询数据库。这样,当查询请求到达时,只需从本地查询数据库获取结果,而无需进行跨库查询。

    2. 使用事件溯源:通过使用事件溯源来记录和存储所有与订单和支付相关的事件,可以构建一个单独的事件存储库。查询服务可以通过从事件存储库中重播事件流来生成最新的订单和支付信息状态。这种方式避免了直接对多个数据库进行跨库查询,而是通过事件回放来构建查询数据。

    3. 使用分布式事务(两阶段提交):如果有业务场景需要实时性较高的查询结果,您可以考虑使用分布式事务来确保数据一致性。在订单微服务和支付微服务之间执行一个分布式事务,先完成订单创建或支付操作,再更新关联的查询数据库。尽管分布式事务可能会增加复杂性和性能开销,但可以确保数据的准确性和一致性。

    4. 缓存查询结果:针对频繁查询、延迟要求不高的情况,可以将查询结果缓存在查询服务中。当订单或支付发生变化时,通过事件通知或定期同步来更新缓存数据,以保持最新状态。

    2023-08-14 17:29:50
    赞同 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    CQRS(Command Query Responsibility Segregation)是一种架构模式,通过将读操作和写操作分离来优化系统的性能和可伸缩性。在实现 CQRS 中的查询服务时,可以考虑以下方法:

    1. 单库查询:如果微服务中的查询服务只涉及一个数据库,那么可以直接使用传统的查询方式,例如使用ORM框架或SQL语句来执行查询操作。

    2. 数据复制和同步:如果查询服务需要跨多个数据库进行查询,一种常见的解决方案是通过数据复制和同步机制将相关数据库的数据复制到一个单独的数据库中。这样,查询服务只需要针对这个复制的数据库进行查询操作,从而避免了跨库查询的问题。数据复制和同步可以使用数据库本身提供的功能,如MySQL的复制机制或MongoDB的副本集。

    3. 事件驱动架构:采用事件驱动架构可以更好地处理跨库查询的情况。当发生写操作时,将相关的事件发布到消息队列中。然后,查询服务可以订阅这些事件并相应地更新自己的数据模型。通过这种方式,查询服务不需要直接查询多个数据库,而是根据事件进行数据更新,从而实现数据的一致性和查询操作的高效性。

    4. 物化视图:在CQRS中,可以使用物化视图来为查询服务提供性能优化。物化视图是预先计算和存储的查询结果,可以通过定期或实时更新来保持与源数据之间的一致性。通过定期或实时地更新物化视图,可以避免频繁进行跨库查询,并提高查询服务的响应速度。

    2023-08-14 13:39:56
    赞同 展开评论 打赏
  • 全栈JAVA领域创作者

    CQRS(Command Query Responsibility Segregation)是指将命令和查询职责分离,即在一个系统中,将对数据的增删改查操作分别由不同的模块来处理。在微服务架构中,由于系统的模块化设计,不同的微服务往往会使用不同的数据库,因此跨库查询成为了一个性能瓶颈问题。
    为了解决这个问题,可以采用以下几种方案:

    数据库复制或者分区:将不同的数据库进行复制或者分区,使得不同的微服务可以使用同一个数据库,从而避免跨库查询的问题。但是这种方式会带来数据同步的问题,而且在数据量较大的情况下会增加系统的复杂度。
    数据仓库:将不同的数据源抽取到一个数据仓库中,然后使用ETL(Extract-Transform-Load)工具将数据转换成目标数据仓库的格式,从而实现跨库查询。但是这种方式需要对数据进行转换,可能会影响数据的准确性。
    CQRS+Event Sourcing:使用CQRS和Event Sourcing来实现跨库查询。在这种方式中,每个微服务会记录自己的状态,并将状态信息以事件的形式发布到消息队列中。其他微服务可以订阅这些事件,从而获取相关的状态信息。这种方式可以避免直接对数据库进行操作,从而提高系统的性能和可扩展性。但是这种方式的实现较为复杂,需要对系统进行重构。
    使用第三方工具:可以使用第三方工具来实现跨库查询,例如使用DTS(Database Transfer Service)或者EventBridge来实现数据同步或者消息传递。但是这种方式需要对第三方工具进行调研和配置,可能会带来额外的成本和风险。
    综上所述,不同的方案都有其优缺点,需要根据具体的业务场景和系统情况来选择合适的方案。

    2023-08-14 12:29:30
    赞同 展开评论 打赏
滑动查看更多

阿里云提供了一系列数据库管理工具,可以满足您在云上进行数据库管理的各种需求。包含数据传输服务DTS、数据库备份 DBS、数据库自治服务 DAS、数据管理 DMS。

热门讨论

热门文章

相关电子书

更多
微服务治理技术白皮书 立即下载
微服务与Serverless 立即下载
EDAS4.0 助力企业一站实现微服务架构转型与 K8s 容器化升级 立即下载