基于DTS Serverless构建一站式实时数据集成服务

简介: 在企业的数字化转型背景下,企业需要数据中台数据实时集成,提升数据分析的时效性。DTS推出了从数据库将业务数据实时同步到数据仓库的解决方案,帮助客户挖掘商机,调整商业策略。同时,为了解决在客户业务负载多变的情况下灵活稳定支持数据传输的问题,DTS推出了Serverless版本,支持按需自动弹性伸缩链路规格,客户可以按需付费,无需关心底层资源。此外,DTS还提供了数据校验的增值能力,帮助检验数据一致性,以免影响客户业务决策的准确性

背景

在企业的数字化转型背景下,企业需要数据中台数据实时集成,提升数据分析的时效性。DTS推出了从数据库将业务数据实时同步到数据仓库的解决方案,帮助客户挖掘商机,调整商业策略。同时,为了解决在客户业务负载多变的情况下灵活稳定支持数据传输的问题,DTS推出了Serverless版本,支持按需自动弹性伸缩链路规格,客户可以按需付费,无需关心底层资源。此外,DTS还提供了数据校验的增值能力,帮助检验数据一致性,以免影响客户业务决策的准确性

DTS Serverless技术竞争力:

实验步骤:

说明:如您已经在DTS Serverless训练营中完成报名、开通DTS“省钱计划”体验包、购买RDS SQL Server云盘等操作,可直接跳转至第3步进行免费试用的资源申请。

1、申请并通过DTS Serverless使用权限

  1. 点击【DTS Serverless功能测试申请表单】,填写基本信息后点击提交获取DTS Serverless功能测试资格。

说明如果已经在训练营完成报名,则不需要再申请该表单。

  1. 点击【 DTS Serverless节省计划】,按照下图步骤领取DTS Serverless节省计划。


说明:该体验包有效期为3天,购买后请您及时使用,节省计划搭配DTS后付费使用(Serverless、按量实例、按量计费项),预付或消费一定的金额,换取较低折扣。节省计划包最高可以抵扣91元的DTS Serverless实例消费实验过后请您及时释放DTS资源, 否则会产生额外扣费

2、完成购买云数据库RDS SQL Server版(源数据库)

  1. 点击【RDS SQL Server版ESSD PL1 云盘】,并按照下图几个步骤购买RDS SQL Server版云盘。

说明:请全部按照默认配置,请勿重新选择其他规格。

  1. 点击下一步:实例配置

  1. 点击下一步:确认订单

  1. 点击去支付

  1. 开通成功后,将出现如下页面。



3、开通云原生数据仓库AnalyticDB PostgreSQL免费试用版本(目标数据库)

(1) 在【阿里云免费试用页面】,单击云原生数据仓库AnalyticDB PostgreSQL卡片中的立即试用

(4)按照如图所示进行AnalyticDB PostgreSQL实例的设置

注意:

地域选择“华南1(深圳)”,可用区选择“华南1可用区F”

向量引擎优化选择“关闭(数仓推荐)”

若提示

则点击“阿里云VPC控制台“

进入如下界面,点击“创建专有网络”

按照如图设置完成后,点击“确定”:

完成创建后会提示创建成功:

再返回AnalyticDB PostgreSQL的立即试用设置页面进行设置

创建服务关联角色

勾选服务协议

4、源端RDS SQL Server实例创建账号和数据库

(1)完成购买RDS SQL Server实例后,点击实例ID进入实例详情

(2)点击“账号管理”,进入页面后点击“创建账号”,并设置相关账号信息。


点击“确定”即可生成如下结果:

(3)点击“数据库管理”,进入页面后点击“创建数据库”,并设置相关数据库信息:


点击“创建”即可生成如下结果:


5、在源端RDS SQL Server实例的dtstest数据库中插入表结构和数据

(1)在RDS SQL Server实例的详情页点击“登录数据库”进入数据管理DMS的控制台

(2)点击“新增实例”,新增RDS SQL Server实例至DMS控制台:

数据来源设置如下:

基本信息设置如下:

点击“测试连接”,若显示连接成功,则点击“提交”

(3)创建表结构

双击“dtstest”,进入RDS SQL Server实例的dtstest数据库的SQLConsole

在SQLConsole中输入如下代码:

CREATE TABLE dbo.nation (
    id INT PRIMARY KEY NOT NULL,
    n_nationkey INT NOT NULL,
    n_name CHAR(25) NOT NULL,
    n_regionkey INT NOT NULL,
    n_comment VARCHAR(152)
);
CREATE TABLE dbo.region (
    id INT PRIMARY KEY NOT NULL,
    r_regionkey INT NOT NULL,
    r_name CHAR(25) NOT NULL,
    r_comment VARCHAR(152)
);
CREATE TABLE dbo.part (
    id INT PRIMARY KEY NOT NULL,
    p_partkey INT NOT NULL,
    p_name VARCHAR(55) NOT NULL,
    p_mfgr CHAR(25) NOT NULL,
    p_brand CHAR(10) NOT NULL,
    p_type VARCHAR(25) NOT NULL,
    p_size INT NOT NULL,
    p_container CHAR(10) NOT NULL,
    p_retailprice NUMERIC(10, 2) NOT NULL,
    p_comment VARCHAR(23) NOT NULL
);
CREATE TABLE dbo.supplier (
    id INT PRIMARY KEY NOT NULL,
    s_suppkey INT NOT NULL,
    s_name CHAR(25) NOT NULL,
    s_address VARCHAR(40) NOT NULL,
    s_nationkey INT NOT NULL,
    s_phone CHAR(15) NOT NULL,
    s_acctbal NUMERIC(10, 2) NOT NULL,
    s_comment VARCHAR(101) NOT NULL
);
CREATE TABLE dbo.partsupp (
    id INT PRIMARY KEY NOT NULL,
    ps_partkey INT NOT NULL,
    ps_suppkey INT NOT NULL,
    ps_availqty INT NOT NULL,
    ps_supplycost NUMERIC(10, 2) NOT NULL,
    ps_comment VARCHAR(199) NOT NULL
);
CREATE TABLE dbo.customer (
    id INT PRIMARY KEY NOT NULL,
    c_custkey INT NOT NULL,
    c_name VARCHAR(25) NOT NULL,
    c_address VARCHAR(40) NOT NULL,
    c_nationkey INT NOT NULL,
    c_phone CHAR(15) NOT NULL,
    c_acctbal NUMERIC(10, 2) NOT NULL,
    c_mktsegment CHAR(10) NOT NULL,
    c_comment VARCHAR(117) NOT NULL
);
CREATE TABLE dbo.orders (
    id INT PRIMARY KEY NOT NULL,
    o_orderkey BIGINT NOT NULL,
    o_custkey INT NOT NULL,
    o_orderstatus CHAR(1) NOT NULL,
    o_totalprice NUMERIC(10, 2) NOT NULL,
    o_orderdate DATE NOT NULL,
    o_orderpriority CHAR(15) NOT NULL,
    o_clerk CHAR(15) NOT NULL,
    o_shippriority INT NOT NULL,
    o_comment VARCHAR(79) NOT NULL
);
CREATE TABLE dbo.lineitem (
    id INT PRIMARY KEY NOT NULL,
    l_orderkey BIGINT NOT NULL,
    l_partkey INT NOT NULL,
    l_suppkey INT NOT NULL,
    l_linenumber INT NOT NULL,
    l_quantity NUMERIC(10, 2) NOT NULL,
    l_extendedprice NUMERIC(10, 2) NOT NULL,
    l_discount NUMERIC(10, 2) NOT NULL,
    l_tax NUMERIC(10, 2) NOT NULL,
    l_returnflag CHAR(1) NOT NULL,
    l_linestatus CHAR(1) NOT NULL,
    l_shipdate DATE NOT NULL,
    l_commitdate DATE NOT NULL,
    l_receiptdate DATE NOT NULL,
    l_shipinstruct CHAR(25) NOT NULL,
    l_shipmode CHAR(10) NOT NULL,
    l_comment VARCHAR(44) NOT NULL
);

点击“执行”

点击“直接执行”

执行成功后,点击刷新按钮


(4)在下列表中导入数据

首先下载数据文件并解压

以customer表为例,导入数据操作过程如下:

右键点击表后customer,点击导入

进行如下设置


点击“提交审批”后,点击“执行变更”

点击“确定执行”

其余表导入数据的流程与customer表一致,⚠️注意lineitem表上传文件为dts_lineitem_batch1.csv

6、目标端AnalyticDB PostgreSQL实例创建账号

(1)完成开通云原生数据仓库AnalyticDB PostgreSQL免费试用版本后,点击实例ID进入实例详情页

(2)点击“账号管理”,进入页面后点击“创建初始账号”

设置账号信息:

点击“确定”即可生成如下结果:


7、在目标端AnalyticDB PostgreSQL实例中创建目标数据库

(1)新增RDS SQL Server实例至DMS控制台:

点击“新增实例”

数据来源设置如下:

基本信息设置如下:

点击“测试连接”,若显示连接成功,则点击“提交”

(2)右键单击AnalyticDB PostgreSQL实例,点击“数据库管理”

点击创建库:

进行数据库信息设置:

8、在DTS控制台上创建Serverless同步任务

(1)点击进入“数据同步”页面,地域选择“华南1(深圳)”,点击“创建任务”

(2)按照下图设置配置源库及目标库信息


(3)按照下图设置配置任务对象及高级配置

(4)建议勾选全量校验和增量校验功能,帮助校验源库和目标库的数据一致性,及时发现目标库数据出现的异常并修复,以免因为数据准确性影响业务决策。进一步了解数据校验

全量校验的HASH校验和增量校验为增值付费功能,收费标准参考文档

(5)按照下图设置配置库表字段

(6)进行同步链路预检查

(7)购买Serverless同步链路

(8)等待大约10分钟,可观测到如下结果

9、插入增量数据到RDS SQLServer实例

按照第5(4)步,在DMS控制台上将lineitem表中导入dts_lineitem_batch2.csv数据文件,导入后DTS将会自动进行增量同步

10、观测DTS Serverless同步任务效果和数据校验结果

(1)返回DTS控制台,点击刚刚创建的全量同步任务的“任务详情”

(2)观测DTS Serverless同步任务效果。可以观测到DTS serverless同步链路DU使用量随着目标库的RPS波动而随之变化,实现了按需自动弹性伸缩链路规格,用户可以按需付费,无需关心底层资源

(3)点击“任务管理”,查看全量校验和增量校验的结果

11、查看DTS节省计划费用抵扣情况

点击【阿里云用户中心节省计划

说明:节省计划抵扣费用T+1出账,即当天实验完成后第二天可以看到费用抵扣情况。

12、温馨提示:完成实验后,请释放资源,以免欠费

(1)释放DTS Serverless实例





相关文章
|
Java Maven Windows
使用Java创建集成JACOB的HTTP服务
本文介绍了如何在Java中创建一个集成JACOB的HTTP服务,使Java应用能够调用Windows的COM组件。文章详细讲解了环境配置、动态加载JACOB DLL、创建HTTP服务器、实现IP白名单及处理HTTP请求的具体步骤,帮助读者实现Java应用与Windows系统的交互。作者拥有23年编程经验,文章来源于稀土掘金。著作权归作者所有,商业转载需授权。
555 2
使用Java创建集成JACOB的HTTP服务
|
存储 Serverless 数据库
科普文:云计算服务类型IaaS, PaaS, SaaS, BaaS, Faas说明
本文介绍了云计算服务的几种主要类型,包括IaaS(基础设施即服务)、PaaS(平台即服务)、SaaS(软件即服务)、BaaS(后端即服务)和FaaS(函数即服务)。每种服务模式提供了不同的服务层次和功能,从基础设施的提供到应用的开发和运行,再到软件的交付使用,满足了企业和个人用户在不同场景下的需求。文章详细阐述了每种服务模式的特点、优势和缺点,并列举了相应的示例。云计算服务的发展始于21世纪初,随着互联网技术的普及,这些服务模式不断演进,为企业和个人带来了高效、灵活的解决方案。然而,使用这些服务时也需要注意服务的稳定性、数据安全性和成本等问题。
15043 5
|
存储 数据可视化 Java
基于MicrometerTracing门面和Zipkin实现集成springcloud2023的服务追踪
Sleuth将会停止维护,Sleuth最新版本也只支持springboot2。作为替代可以使用MicrometerTracing在微服务中作为服务追踪的工具。
974 2
|
Serverless Python
借助 serverless 将 MCP 服务部署到云端
本文介绍了如何将 MCP 服务通过 SSE 协议部署到云端,避免本地下载和启动的麻烦。首先,使用 Python 实现了一个基于 FastMCP 的网络搜索工具,并通过设置 `transport='sse'` 启用 SSE 协议。接着,编写客户端代码测试服务功能,确保其正常运行。随后,利用阿里云函数计算服务(FC 3.0)以 Serverless 方式部署该服务,包括创建函数、配置环境变量、添加依赖层以及部署代码。最后,提供了客户端测试方法和日志排查技巧,并展示了如何在不同工具(如 Cherry-Studio、Cline 和 Cursor)中配置云端 MCP 服务。
2085 11
借助 serverless 将 MCP 服务部署到云端
|
人工智能 API 开发工具
GitHub官方开源MCP服务!GitHub MCP Server:无缝集成GitHub API,实现Git流程完全自动化
GitHub MCP Server是基于Model Context Protocol的服务器工具,提供与GitHub API的无缝集成,支持自动化处理问题、Pull Request和仓库管理等功能。
3796 2
GitHub官方开源MCP服务!GitHub MCP Server:无缝集成GitHub API,实现Git流程完全自动化
|
机器学习/深度学习 人工智能 自然语言处理
Voice-Pro:开源AI音频处理工具,集成转录、翻译、TTS等一站式服务
Voice-Pro是一款开源的多功能音频处理工具,集成了语音转文字、文本转语音、实时翻译、YouTube视频下载和人声分离等多种功能。它支持超过100种语言,适用于教育、娱乐和商业等多个领域,为用户提供一站式的音频处理解决方案,极大地提高工作效率和音频处理的便捷性。
2213 10
Voice-Pro:开源AI音频处理工具,集成转录、翻译、TTS等一站式服务
|
Cloud Native 安全 Serverless
云原生应用实战:基于阿里云Serverless的API服务开发与部署
随着云计算的发展,Serverless架构日益流行。阿里云函数计算(Function Compute)作为Serverless服务,让开发者无需管理服务器即可运行代码,按需付费,简化开发运维流程。本文从零开始,介绍如何使用阿里云函数计算开发简单的API服务,并探讨其核心优势与最佳实践。通过Python示例,演示创建、部署及优化API的过程,涵盖环境准备、代码实现、性能优化和安全管理等内容,帮助读者快速上手Serverless开发。
|
存储 Java 开发工具
【三方服务集成】最新版 | 阿里云OSS对象存储服务使用教程(包含OSS工具类优化、自定义阿里云OSS服务starter)
阿里云OSS(Object Storage Service)是一种安全、可靠且成本低廉的云存储服务,支持海量数据存储。用户可通过网络轻松存储和访问各类文件,如文本、图片、音频和视频等。使用OSS后,项目中的文件上传业务无需在服务器本地磁盘存储文件,而是直接上传至OSS,由其管理和保障数据安全。此外,介绍了OSS服务的开通流程、Bucket创建、AccessKey配置及环境变量设置,并提供了Java SDK示例代码,帮助用户快速上手。最后,展示了如何通过自定义starter简化工具类集成,实现便捷的文件上传功能。
6314 7
【三方服务集成】最新版 | 阿里云OSS对象存储服务使用教程(包含OSS工具类优化、自定义阿里云OSS服务starter)
|
弹性计算 人工智能 自然语言处理
魔搭社区与函数计算:高效部署开源大模型的文本生成服务体验
在数字化时代,人工智能技术迅速发展,开源大模型成为重要成果。魔搭社区(ModelScope)作为开源大模型的聚集地,结合阿里云函数计算,提供了一种高效、便捷的部署方式。通过按需付费和弹性伸缩,开发者可以快速部署和使用大模型,享受云计算的便利。本文介绍了魔搭社区与函数计算的结合使用体验,包括环境准备、部署应用、体验使用和资源清理等步骤,并提出了改进建议。
|
机器学习/深度学习 监控 物联网
函数即服务(FaaS)
函数即服务(FaaS)
1034 6

热门文章

最新文章