系统设计之多地址直连

简介: 系统设计之多地址直连

基础概要

将用户的动态请求做分发,通过规则中心服务做判断,来减少中途的请求次数,这是一种基于Eureka Nacos等注册中心的一种架构设计思路。

我们可以通过请求的ip或者用户做判断,来路由到对应的服务上面。

比如常见的游戏选区,把选择权交给用户的请求就可以套用类似的设计方案。


流程图


架构缺点

规则中心需要负担全量的请求,压力会比较大。


后续优化

某一类型规则请求后,记录下对应缓存,之后根据缓存直接路由到对应服务,如果没有缓存再去请求规则中心。

目录
相关文章
|
并行计算 API Docker
ModelScope问题之环境不好配置如何解决
ModelScope镜像是指用于在ModelScope平台上创建和管理的容器镜像,这些镜像包含用于模型训练和推理的环境和依赖;本合集将说明如何使用ModelScope镜像以及管理镜像的技巧和注意事项。
524 0
|
Shell 网络安全 数据安全/隐私保护
Mac OS版的xshell——Mac OS 终端利器iTerm2
Mac OS版的xshell——Mac OS 终端利器iTerm2
17647 1
Mac OS版的xshell——Mac OS 终端利器iTerm2
|
数据安全/隐私保护 UED 异构计算
【大模型私有化部署要花多少钱?】一张图看懂你的钱用在哪
本文探讨了高性价比实现DeepSeek大模型私有化部署的方法,分为两部分: 一是定义大模型性能指标,包括系统级(吞吐量、并发数)与用户体验级(首token生成时间、单token生成时间)指标,并通过roofline模型分析性能瓶颈; 二是评估私有化部署成本,对比不同硬件(如H20和4090)及模型选择,结合业务需求优化资源配置。适合关注数据安全与成本效益的企业参考。
【大模型私有化部署要花多少钱?】一张图看懂你的钱用在哪
美团面试:Redis锁如何续期?Redis锁超时,任务没完怎么办?
在40岁老架构师尼恩的读者交流群中,近期有小伙伴在面试一线互联网企业时遇到了关于Redis分布式锁过期及自动续期的问题。尼恩对此进行了系统化的梳理,介绍了两种核心解决方案:一是通过增加版本号实现乐观锁,二是利用watch dog自动续期机制。后者通过后台线程定期检查锁的状态并在必要时延长锁的过期时间,确保锁不会因超时而意外释放。尼恩还分享了详细的代码实现和原理分析,帮助读者深入理解并掌握这些技术点,以便在面试中自信应对相关问题。更多技术细节和面试准备资料可在尼恩的技术文章和《尼恩Java面试宝典》中获取。
美团面试:Redis锁如何续期?Redis锁超时,任务没完怎么办?
|
Linux TensorFlow 算法框架/工具
在Linux上安装其他版本的cmake 或 升级cmake
在Linux上安装其他版本的cmake 或 升级cmake
3548 2
|
数据可视化 Docker 容器
一文教会你如何通过Docker安装elasticsearch和kibana 【详细过程+图解】
这篇文章提供了通过Docker安装Elasticsearch和Kibana的详细过程和图解,包括下载镜像、创建和启动容器、处理可能遇到的启动失败情况(如权限不足和配置文件错误)、测试Elasticsearch和Kibana的连接,以及解决空间不足的问题。文章还特别指出了配置文件中空格的重要性以及环境变量中字母大小写的问题。
一文教会你如何通过Docker安装elasticsearch和kibana 【详细过程+图解】
|
人工智能 自然语言处理 Java
本地安装使用ModelScope
本地安装使用ModelScope
7293 1
本地安装使用ModelScope

热门文章

最新文章