带你读《企业级云原生白皮书项目实战》——5.1.7 数据同步(1)

简介: 带你读《企业级云原生白皮书项目实战》——5.1.7 数据同步(1)

5.1.7 数据同步


数据同步分为Elasitcsearch集群间的数据迁移,以及其他存储的数据同步到Elasticsearch,而实际的数据同步操作,除了选择数据同步方式之外,还需要判断网络是否正常访问,所以也会介绍下阿里云Elasticsearch的网络架构。


5.1.7.1 阿里云ES网络架构

2020年10月,阿里云Elasticsearch对网络架构进行了调整。2020年10月之前为旧网络架构,2020年10月及之后为新网络架构。新网络架构下的实例不支持与旧网络架构下的实例进行跨集群reindex、跨集群搜索、跨集群复制等实例互通操作。如果需要进行互通,需要确保实例创建在同一网络架构下。那新旧网络架构具体是什么样的呢?下面总结整理了下面四个场景的网络架构,分别是阿里云ElasticSearch老网络架构、阿里云ElasticSearch新网络架构、阿里云ElasticSearch的PrivateLink网络架构、阿里云LogStash的网络架构,帮助大家解惑。


5.1.7.1 阿里云ES网络架构

image.png

在这种网络架构下,阿里云Elasticsearch的节点ECS是部署在用户VPC下,Elasticsearch节点和用户ECS之间网络是可以互通的。


5.1.7.1.2 阿里云ElasticSearch新网络架构

image.png


自2020年10月起,网络架构调整,ES节点ECS是在产品VPC下,这个架构会导致ES集群节点没有办法直接访问用户ECS,这就导致X-Pack Watcher报警功能、LDAP服务等功能不能用了,X-Pack报警功能需要ECS节点发送消息到外部服务器,LDAP服务功能需要ES服务发送验证请求到外部LDAP服务器。


5.1.7.1.2 阿里云ElasticSearch新网络架构

image.png


这个是LogStash服务网络架构,同阿里云ElasticSearch老网络架构一致,ES节点ECS和用户的ECS在同一个VPC内,所以LogStash和用户的ECS是可以相互通信的,而NAT是当LogStash的同步任务数据源是公网时候,需要配置的,配置之后,LogStash可以通过公网访问对应的数据源。


《企业级云原生白皮书项目实战》——第五章 大数据——5.1 检索分析服务 Elasticsearch版——5.1.7 数据同步(2) https://developer.aliyun.com/article/1228657?groupCode=supportservice

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://www.aliyun.com/product/ecs
相关文章
|
10月前
|
人工智能 关系型数据库 OLAP
光云科技 X AnalyticDB:构建 AI 时代下的云原生企业级数仓
AnalyticDB承载了光云海量数据的实时在线分析,为各个业务线的商家提供了丝滑的数据服务,实时物化视图、租户资源隔离、冷热分离等企业级特性,很好的解决了SaaS场景下的业务痛点,也平衡了成本。同时也基于通义+AnalyticDB研发了企业级智能客服、智能导购等行业解决方案,借助大模型和云计算为商家赋能。
800 17
|
自然语言处理 大数据 应用服务中间件
大数据-172 Elasticsearch 索引操作 与 IK 分词器 自定义停用词 Nginx 服务
大数据-172 Elasticsearch 索引操作 与 IK 分词器 自定义停用词 Nginx 服务
302 5
|
存储 分布式计算 大数据
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
大数据-169 Elasticsearch 索引使用 与 架构概念 增删改查
236 3
|
存储 API 数据库
检索服务elasticsearch索引(Index)
【8月更文挑战第23天】
729 6
|
存储 负载均衡 监控
检索服务elasticsearch节点(Node)
【8月更文挑战第23天】
311 5
|
存储 监控 负载均衡
检索服务elasticsearch集群(Cluster)
【8月更文挑战第23天】
203 3
|
存储 监控 负载均衡
检索服务elasticsearch分布式结构
【8月更文挑战第22天】
229 3
|
11月前
|
存储 机器学习/深度学习 人工智能
Elasticsearch:使用阿里云 AI 服务进行向量化和重新排名
本文介绍了如何将阿里云 AI 功能与 Elasticsearch 集成,以提高语义搜索的相关性。
693 0
|
JSON Java 网络架构
elasticsearch学习四:使用springboot整合 rest 进行搭建elasticsearch服务
这篇文章介绍了如何使用Spring Boot整合REST方式来搭建和操作Elasticsearch服务。
431 4
elasticsearch学习四:使用springboot整合 rest 进行搭建elasticsearch服务
|
存储 Cloud Native 块存储
EBS深度解析:云原生时代企业级块存储
企业上云的策略,从 Cloud-Hosting 转向 Serverless 架构。块存储作为企业应用上云的核心存储产品,将通过 Serverless 化来加速新的计算范式全面落地。在本话题中,我们将会介绍阿里云块存储企业级能力的创新,深入解析背后的技术细节,分享对未来趋势的判断。
1010 3