基于DTS Serverless构建一站式实时数据集成服务

本文涉及的产品
数据传输服务 DTS,数据迁移 small 3个月
推荐场景:
MySQL数据库上云
数据传输服务 DTS,数据同步 small 3个月
推荐场景:
数据库上云
数据传输服务 DTS,数据同步 1个月
简介: 在企业的数字化转型背景下,企业需要数据中台数据实时集成,提升数据分析的时效性。DTS推出了从数据库将业务数据实时同步到数据仓库的解决方案,帮助客户挖掘商机,调整商业策略。同时,为了解决在客户业务负载多变的情况下灵活稳定支持数据传输的问题,DTS推出了Serverless版本,支持按需自动弹性伸缩链路规格,客户可以按需付费,无需关心底层资源。此外,DTS还提供了数据校验的增值能力,帮助检验数据一致性,以免影响客户业务决策的准确性

背景

在企业的数字化转型背景下,企业需要数据中台数据实时集成,提升数据分析的时效性。DTS推出了从数据库将业务数据实时同步到数据仓库的解决方案,帮助客户挖掘商机,调整商业策略。同时,为了解决在客户业务负载多变的情况下灵活稳定支持数据传输的问题,DTS推出了Serverless版本,支持按需自动弹性伸缩链路规格,客户可以按需付费,无需关心底层资源。此外,DTS还提供了数据校验的增值能力,帮助检验数据一致性,以免影响客户业务决策的准确性

DTS Serverless技术竞争力:

实验步骤:

说明:如您已经在DTS Serverless训练营中完成报名、开通DTS“省钱计划”体验包、购买RDS SQL Server云盘等操作,可直接跳转至第3步进行免费试用的资源申请。

1、申请并通过DTS Serverless使用权限

  1. 点击【DTS Serverless功能测试申请表单】,填写基本信息后点击提交获取DTS Serverless功能测试资格。

说明如果已经在训练营完成报名,则不需要再申请该表单。

  1. 点击【 DTS Serverless节省计划】,按照下图步骤领取DTS Serverless节省计划。


说明:该体验包有效期为3天,购买后请您及时使用,节省计划搭配DTS后付费使用(Serverless、按量实例、按量计费项),预付或消费一定的金额,换取较低折扣。节省计划包最高可以抵扣91元的DTS Serverless实例消费实验过后请您及时释放DTS资源, 否则会产生额外扣费

2、完成购买云数据库RDS SQL Server版(源数据库)

  1. 点击【RDS SQL Server版ESSD PL1 云盘】,并按照下图几个步骤购买RDS SQL Server版云盘。

说明:请全部按照默认配置,请勿重新选择其他规格。

  1. 点击下一步:实例配置

  1. 点击下一步:确认订单

  1. 点击去支付

  1. 开通成功后,将出现如下页面。



3、开通云原生数据仓库AnalyticDB PostgreSQL免费试用版本(目标数据库)

(1) 在【阿里云免费试用页面】,单击云原生数据仓库AnalyticDB PostgreSQL卡片中的立即试用

(4)按照如图所示进行AnalyticDB PostgreSQL实例的设置

注意:

地域选择“华南1(深圳)”,可用区选择“华南1可用区F”

向量引擎优化选择“关闭(数仓推荐)”

若提示

则点击“阿里云VPC控制台“

进入如下界面,点击“创建专有网络”

按照如图设置完成后,点击“确定”:

完成创建后会提示创建成功:

再返回AnalyticDB PostgreSQL的立即试用设置页面进行设置

创建服务关联角色

勾选服务协议

4、源端RDS SQL Server实例创建账号和数据库

(1)完成购买RDS SQL Server实例后,点击实例ID进入实例详情

(2)点击“账号管理”,进入页面后点击“创建账号”,并设置相关账号信息。


点击“确定”即可生成如下结果:

(3)点击“数据库管理”,进入页面后点击“创建数据库”,并设置相关数据库信息:


点击“创建”即可生成如下结果:


5、在源端RDS SQL Server实例的dtstest数据库中插入表结构和数据

(1)在RDS SQL Server实例的详情页点击“登录数据库”进入数据管理DMS的控制台

(2)点击“新增实例”,新增RDS SQL Server实例至DMS控制台:

数据来源设置如下:

基本信息设置如下:

点击“测试连接”,若显示连接成功,则点击“提交”

(3)创建表结构

双击“dtstest”,进入RDS SQL Server实例的dtstest数据库的SQLConsole

在SQLConsole中输入如下代码:

CREATE TABLE dbo.nation (
    id INT PRIMARY KEY NOT NULL,
    n_nationkey INT NOT NULL,
    n_name CHAR(25) NOT NULL,
    n_regionkey INT NOT NULL,
    n_comment VARCHAR(152)
);
CREATE TABLE dbo.region (
    id INT PRIMARY KEY NOT NULL,
    r_regionkey INT NOT NULL,
    r_name CHAR(25) NOT NULL,
    r_comment VARCHAR(152)
);
CREATE TABLE dbo.part (
    id INT PRIMARY KEY NOT NULL,
    p_partkey INT NOT NULL,
    p_name VARCHAR(55) NOT NULL,
    p_mfgr CHAR(25) NOT NULL,
    p_brand CHAR(10) NOT NULL,
    p_type VARCHAR(25) NOT NULL,
    p_size INT NOT NULL,
    p_container CHAR(10) NOT NULL,
    p_retailprice NUMERIC(10, 2) NOT NULL,
    p_comment VARCHAR(23) NOT NULL
);
CREATE TABLE dbo.supplier (
    id INT PRIMARY KEY NOT NULL,
    s_suppkey INT NOT NULL,
    s_name CHAR(25) NOT NULL,
    s_address VARCHAR(40) NOT NULL,
    s_nationkey INT NOT NULL,
    s_phone CHAR(15) NOT NULL,
    s_acctbal NUMERIC(10, 2) NOT NULL,
    s_comment VARCHAR(101) NOT NULL
);
CREATE TABLE dbo.partsupp (
    id INT PRIMARY KEY NOT NULL,
    ps_partkey INT NOT NULL,
    ps_suppkey INT NOT NULL,
    ps_availqty INT NOT NULL,
    ps_supplycost NUMERIC(10, 2) NOT NULL,
    ps_comment VARCHAR(199) NOT NULL
);
CREATE TABLE dbo.customer (
    id INT PRIMARY KEY NOT NULL,
    c_custkey INT NOT NULL,
    c_name VARCHAR(25) NOT NULL,
    c_address VARCHAR(40) NOT NULL,
    c_nationkey INT NOT NULL,
    c_phone CHAR(15) NOT NULL,
    c_acctbal NUMERIC(10, 2) NOT NULL,
    c_mktsegment CHAR(10) NOT NULL,
    c_comment VARCHAR(117) NOT NULL
);
CREATE TABLE dbo.orders (
    id INT PRIMARY KEY NOT NULL,
    o_orderkey BIGINT NOT NULL,
    o_custkey INT NOT NULL,
    o_orderstatus CHAR(1) NOT NULL,
    o_totalprice NUMERIC(10, 2) NOT NULL,
    o_orderdate DATE NOT NULL,
    o_orderpriority CHAR(15) NOT NULL,
    o_clerk CHAR(15) NOT NULL,
    o_shippriority INT NOT NULL,
    o_comment VARCHAR(79) NOT NULL
);
CREATE TABLE dbo.lineitem (
    id INT PRIMARY KEY NOT NULL,
    l_orderkey BIGINT NOT NULL,
    l_partkey INT NOT NULL,
    l_suppkey INT NOT NULL,
    l_linenumber INT NOT NULL,
    l_quantity NUMERIC(10, 2) NOT NULL,
    l_extendedprice NUMERIC(10, 2) NOT NULL,
    l_discount NUMERIC(10, 2) NOT NULL,
    l_tax NUMERIC(10, 2) NOT NULL,
    l_returnflag CHAR(1) NOT NULL,
    l_linestatus CHAR(1) NOT NULL,
    l_shipdate DATE NOT NULL,
    l_commitdate DATE NOT NULL,
    l_receiptdate DATE NOT NULL,
    l_shipinstruct CHAR(25) NOT NULL,
    l_shipmode CHAR(10) NOT NULL,
    l_comment VARCHAR(44) NOT NULL
);

点击“执行”

点击“直接执行”

执行成功后,点击刷新按钮


(4)在下列表中导入数据

首先下载数据文件并解压

以customer表为例,导入数据操作过程如下:

右键点击表后customer,点击导入

进行如下设置


点击“提交审批”后,点击“执行变更”

点击“确定执行”

其余表导入数据的流程与customer表一致,⚠️注意lineitem表上传文件为dts_lineitem_batch1.csv

6、目标端AnalyticDB PostgreSQL实例创建账号

(1)完成开通云原生数据仓库AnalyticDB PostgreSQL免费试用版本后,点击实例ID进入实例详情页

(2)点击“账号管理”,进入页面后点击“创建初始账号”

设置账号信息:

点击“确定”即可生成如下结果:


7、在目标端AnalyticDB PostgreSQL实例中创建目标数据库

(1)新增RDS SQL Server实例至DMS控制台:

点击“新增实例”

数据来源设置如下:

基本信息设置如下:

点击“测试连接”,若显示连接成功,则点击“提交”

(2)右键单击AnalyticDB PostgreSQL实例,点击“数据库管理”

点击创建库:

进行数据库信息设置:

8、在DTS控制台上创建Serverless同步任务

(1)点击进入“数据同步”页面,地域选择“华南1(深圳)”,点击“创建任务”

(2)按照下图设置配置源库及目标库信息


(3)按照下图设置配置任务对象及高级配置

(4)建议勾选全量校验和增量校验功能,帮助校验源库和目标库的数据一致性,及时发现目标库数据出现的异常并修复,以免因为数据准确性影响业务决策。进一步了解数据校验

全量校验的HASH校验和增量校验为增值付费功能,收费标准参考文档

(5)按照下图设置配置库表字段

(6)进行同步链路预检查

(7)购买Serverless同步链路

(8)等待大约10分钟,可观测到如下结果

9、插入增量数据到RDS SQLServer实例

按照第5(4)步,在DMS控制台上将lineitem表中导入dts_lineitem_batch2.csv数据文件,导入后DTS将会自动进行增量同步

10、观测DTS Serverless同步任务效果和数据校验结果

(1)返回DTS控制台,点击刚刚创建的全量同步任务的“任务详情”

(2)观测DTS Serverless同步任务效果。可以观测到DTS serverless同步链路DU使用量随着目标库的RPS波动而随之变化,实现了按需自动弹性伸缩链路规格,用户可以按需付费,无需关心底层资源

(3)点击“任务管理”,查看全量校验和增量校验的结果

11、查看DTS节省计划费用抵扣情况

点击【阿里云用户中心节省计划

说明:节省计划抵扣费用T+1出账,即当天实验完成后第二天可以看到费用抵扣情况。

12、温馨提示:完成实验后,请释放资源,以免欠费

(1)释放DTS Serverless实例





相关文章
|
14天前
|
人工智能 定位技术 API
旅行规划太难做?5 分钟构建智能Agent,集成地图 MCP Server
MCP(Model Coordination Protocol)是由Anthropic公司提出的开源协议,旨在通过标准化交互方式解决AI大模型与外部数据源、工具的集成难题。阿里云百炼平台上线了业界首个全生命周期MCP服务,大幅降低Agent开发门槛,实现5分钟快速搭建智能体应用。本文介绍基于百炼平台“模型即选即用+MCP服务”模式,详细展示了如何通过集成高德地图MCP Server为智能体添加地图信息与天气查询能力,构建全面的旅行规划助手。方案涵盖智能体创建、模型配置、指令与技能设置等步骤,并提供清理资源的指导以避免费用产生。
365 103
|
1月前
|
Serverless Python
借助 serverless 将 MCP 服务部署到云端
本文介绍了如何将 MCP 服务通过 SSE 协议部署到云端,避免本地下载和启动的麻烦。首先,使用 Python 实现了一个基于 FastMCP 的网络搜索工具,并通过设置 `transport='sse'` 启用 SSE 协议。接着,编写客户端代码测试服务功能,确保其正常运行。随后,利用阿里云函数计算服务(FC 3.0)以 Serverless 方式部署该服务,包括创建函数、配置环境变量、添加依赖层以及部署代码。最后,提供了客户端测试方法和日志排查技巧,并展示了如何在不同工具(如 Cherry-Studio、Cline 和 Cursor)中配置云端 MCP 服务。
576 10
借助 serverless 将 MCP 服务部署到云端
|
4月前
|
容灾 安全 关系型数据库
数据传输服务DTS:敏捷弹性构建企业数据容灾和集成
数据传输服务DTS提供全球覆盖、企业级跨境数据传输和智能化服务,助力企业敏捷构建数据容灾与集成。DTS支持35种数据源,实现全球化数据托管与安全传输,帮助企业快速出海并高效运营。瑶池数据库的全球容灾、多活及集成方案,结合DTS的Serverless和Insight功能,大幅提升数据传输效率与智能管理水平。特邀客户稿定分享了使用DTS加速全球业务布局的成功经验,展示DTS在数据分发、容灾多活等方面的优势。
|
3月前
|
Cloud Native 安全 Serverless
云原生应用实战:基于阿里云Serverless的API服务开发与部署
随着云计算的发展,Serverless架构日益流行。阿里云函数计算(Function Compute)作为Serverless服务,让开发者无需管理服务器即可运行代码,按需付费,简化开发运维流程。本文从零开始,介绍如何使用阿里云函数计算开发简单的API服务,并探讨其核心优势与最佳实践。通过Python示例,演示创建、部署及优化API的过程,涵盖环境准备、代码实现、性能优化和安全管理等内容,帮助读者快速上手Serverless开发。
|
4月前
|
人工智能 数据可视化 开发者
FlowiseAI:34K Star!集成多种模型和100+组件的 LLM 应用低代码开发平台,拖拽组件轻松构建程序
FlowiseAI 是一款开源的低代码工具,通过拖拽可视化组件,用户可以快速构建自定义的 LLM 应用程序,支持多模型集成和记忆功能。
337 14
FlowiseAI:34K Star!集成多种模型和100+组件的 LLM 应用低代码开发平台,拖拽组件轻松构建程序
|
3月前
|
人工智能 自然语言处理 搜索推荐
云上玩转DeepSeek系列之三:PAI-RAG集成联网搜索,构建企业级智能助手
本文将为您带来“基于 PAI-RAG 构建 DeepSeek 联网搜索+企业级知识库助手服务”解决方案,PAI-RAG 提供全面的生态能力,支持一键部署至企业微信、微信公众号、钉钉群聊机器人等,助力打造多场景的AI助理,全面提升业务效率与用户体验。
|
4月前
|
人工智能 数据挖掘 API
R2R:开源的 RAG 集成系统,支持多模态处理、混合搜索、知识图谱构建等增强检索技术
R2R 是一款先进的 AI 检索增强生成平台,支持多模态内容处理、混合搜索和知识图谱构建,适用于复杂数据处理和分析的生产环境。
505 3
R2R:开源的 RAG 集成系统,支持多模态处理、混合搜索、知识图谱构建等增强检索技术
|
4月前
|
运维 监控 Cloud Native
构建深度可观测、可集成的网络智能运维平台
本文介绍了构建深度可观测、可集成的网络智能运维平台(简称NIS),旨在解决云上网络运维面临的复杂挑战。内容涵盖云网络运维的三大难题、打造云原生AIOps工具集的解决思路、可观测性对业务稳定的重要性,以及产品发布的亮点,包括流量分析NPM、网络架构巡检和自动化运维OpenAPI,助力客户实现自助运维与优化。
|
7月前
|
Java Maven Docker
gitlab-ci 集成 k3s 部署spring boot 应用
gitlab-ci 集成 k3s 部署spring boot 应用
|
6月前
|
消息中间件 监控 Java
您是否已集成 Spring Boot 与 ActiveMQ?
您是否已集成 Spring Boot 与 ActiveMQ?
224 0

热门文章

最新文章