阿里云DMS,身边的智能化数据分析助手

本文涉及的产品
数据管理 DMS,安全协同 3个实例 3个月
推荐场景:
学生管理系统数据库
数据传输服务 DTS,数据迁移 small 3个月
推荐场景:
MySQL数据库上云
简介: 生成式AI颠覆了人机交互的传统范式,赋予每个人利用AI进行低门槛数据分析的能力。Data Fabric与生成式AI的强强联合,不仅能够实现敏捷数据交付,还有效降低了数据分析门槛,让人人都能数据分析成为可能!阿里云DMS作为阿里云统一的用数平台,在2021年初就开始探索使用Data Fabric理念构建逻辑数仓来加速企业数据价值的交付,2023年推出基于大模型构建的Data Copilot,降低用数门槛,近期我们将Notebook(分析窗口)、逻辑数仓(Data Fabric)、Data Copilot(生成式AI)进行有机组合,端到端的解决用数难题,给用户带来全新的分析体验。

导言

随着Gartner发布2023年中国数据、分析和AI技术成熟度曲线(站在数据业务发展和技术相关性角度,Gartner作为业界权威将数据、分析、AI放在一个曲线上说明趋势),数据中台正式从曲线中被废弃,成为历史。从2015年提出受到热捧,到变得备受质疑直至被市场抛弃,究其原因,主要是数据中台投入大,成本高,虽然保障了数据供给的一致性和质量,但需求响应以周、月为单位,让业务侧难以忍受。而与之对应的,近几年Data Fabric作为一种新兴的数据管理设计理念正获得各厂商的青睐。


Data Fabric重点强调敏捷数据交付,其通过优化跨源异构数据的发现与访问,将可信数据从所有数据源中以灵活且业务可理解的方式交付给所有相关数据消费者,让数据消费者自助服务和高效协作,实现极致敏捷的数据交付,同时通过主动、智能、持续的数据治理让数据架构持续健康,从而提供比传统数据管理更多的价值。Gartner认为Data Fabric能够帮助企业减少50%数据管理人力成本和70%的工作量并加快价值实现速度


Data Fabric虽然能够实现敏捷的数据交付,但有效降低数据分析的门槛,实现数据价值的最后一公里传递,依然是当前面临的一大挑战。这一问题的核心在于如何让非专业人士,包括业务决策者、一线员工乃至广大公众,都能够便捷地使用数据,从而真正释放数据潜在的价值。


值得庆幸的是,生成式AI技术的出现为解决这一难题带来了曙光。生成式AI颠覆了人机交互的传统范式,赋予每个人利用AI进行低门槛数据分析的能力(比如通过自然语言来查询与分析数据),以此破解实现数据价值的最后一公里障碍。我们在Gartner发布的曲线中也可以观察到,生成式AI在极短的时间内即跃升至热门关注区间的顶峰,这充分反映了市场对于借助生成式AI降低数据分析门槛的高度期许与热烈追求。


综上,Data Fabric与生成式AI的强强联合,不仅能够实现敏捷数据交付,还有效降低了数据分析门槛,让人人都能数据分析成为可能!


阿里云DMS作为阿里云统一的用数平台,在2021年初就开始探索使用Data Fabric理念构建逻辑数仓来加速企业数据价值的交付,2023年推出基于大模型构建的Data Copilot,降低用数门槛,近期我们将Notebook、逻辑数仓(统一查询)、Data Copilot(生成式AI)进行有机组合,端到端的解决用数难题,给用户带来全新的分析体验。


面向用户群体

使用前

DMS方案

用户收益

数据开发/分析人员

需要花费大量的时间来应对业务方频繁的取数需求

  • 通过Notebook支持SQL、Python融合串联分析,实现一体化分析体验。
  • 提供Data Copilot,支持NL2SQL,SQL补全,SQL纠错,SQL注释等能力,协助开发人员便捷完成SQL开发,提高开发效率
  • 提供Agent配置调试平台,供开发人员一键构建“查数机器人”。定制化大模型开箱即用,为业务提供24小时不间断服务,响应80%以上的重复性查数需求

专注高价值交付,数据交付效率提升100%

缺乏有效的业务元数据信息,需要人工主动维护

基于大模型推理+业务使用反馈自动获取业务元数据

业务元数据自主维护,人工为辅,元数据管理效率提升50%

用数人员(产品/运营/管理者)

找数难,等待周期长,无法自服务自闭环

Web/钉钉等多渠道,使用开发人员构建的查数Agent以自然语言交互式获取数据,0代码,提出问题即可得到

低门槛自助用数,专注业务决策

无需排队,无需等候,全天候服务


1、DMS简介

在进入分析场景介绍前,先为不熟悉DMS的同学进行一个简单科普,DMS是阿里云在2013年发布的数据管理服务,作为阿里云统一的用数入口,其提供了包括多云多源管控、数据安全、数据库开发管理、数据分析等功能,是多年来阿里集团用数最佳实践,能够满足企业一站式数据管理诉求。上线至今服务了超过10万+企业客户,产品周活6万+!

2、DMS数据分析与应用

如上图所示,DMS通过Data Fabric(主动元数据、知识图谱、数据虚拟化、动态集成、访问控制、AI/推荐)+大模型构建智能数据管理底座,通过数据管理底座底座赋能数据分析与应用场景。Data Fabric的整体能力我们留待下次分享,本次主要针对DMS数据分析与应用结合场景拆分的四个核心功能进行介绍:安全托管、Copilot、Notebook、AI Agent

安全托管。

在数据分析与应用场景中,用数管控是基本要求,安全托管是数据管理DMS在阿里集团数据库权限访问控制最佳实践,为企业提供一系列数据库权限管控的集合,可帮助企业实现多云数据库统一权限管理,进而确保用数过程的安全。


Copilot

             

DMS Data Copilot支持用户通过自然语言的方式生成SQL,相较于其他NL2SQL场景对大规模精准数据标注的高度依赖性,DMS巧妙借力于先进的大模型技术,能够对用户过往执行过的SQL语句以及历史对话记录进行深层次的知识推理与挖掘,进而构筑并自主维护一个专业且实时更新的领域知识库,这一过程几乎无需大量人工介入。


在实际应用中,DMS Data Copilot在互动交流的过程中能够展现出卓越的理解力和应变能力。它能理解用户的复杂意图,并依据用户的历史行为和当前需求,智能推荐合适的表,生成相应的SQL片段。同时,对于Copilot使用的每项信息,用户都能够进行灵活调整和优化,这无疑显著提升了系统的冷启动效能和结果准确度,使得用户与数据库之间的沟通更为流畅自如。


Notebook

DMS为分析师提供了标准的Notebook功能满足基础分析场景诉求,同时对Notebook能力进行增强,提升开发效率:

  • 支持通过Copilot以自然语言的方式生成SQL语句(Python生成规划中)
  • 新增SQL Cell(Cell是Notebook的最小组成单位,类似单独的一个开发窗口),且SQL Cell查询结果可直接被Python Cell以data frame的形式引用
  • SQL Cell通过Copilot支持SQL代码自动生成
  • SQL Cell能够进行查询和结果集可视化
  • SQL Cell具备Data Fabric数据虚拟化能力,能够实现多源数据访问而无需移动数据,有类似数据库的功能
  • 支持逻辑建模和编排调度(规划中)

AI Agent

AI Agent是一类数据应用的总称,开发人员可以自主构建对外的智能数据应用,目前DMS支持创建查数Agent应用,开发人员通过“创建Agent->选择Agent涉及表->测试/调试->发布”流程即可快速构建一个查数Agent,通过查数Agent可以让用数人员通过自然语言进行数据查询和分析,应对日常高频多变的查数诉求,且开发可根据日常用数的系统反馈不断调试迭代提升准确性和覆盖面,从而避免让开发、分析人员成为“取数机器”,进一步提升企业数据驱动效率。


3、快速入门

这里以一个数据集成类的SaaS产品经营分析为例,我们需要通过DMS数据工作站完成集成任务量的趋势分析以及构建一个查数Agent应对任务相关的日常查询分析诉求。

3.1、准备工作

1)从DMS控制台找到数据集成与开发入口->进入DMS数据工作站->新建项目空间。

2)在项目空间添加任务分析所需的相关库和表。

3.2、Notebook分析

1)创建Notebook文件

2)使用Notebook对任务趋势进行分析,过程中可以通过开启Copilot来生成分析所需的SQL快速应用到Notebook中。

在Copilot的帮助下我们能够快速提升代码开发效率,到这里趋势分析就完成了。

3.3、AI Agent构建

接下来我们构建一个查数Agent应对任务相关的日常查询分析诉求

1)创建AI Agent

2)新增任务分析相关表

3)添加测试集

4)回归与调试

5)通过自然语言来获取任务相关的查询和分析结果(比如询问“帮我分析下成功的任务中,各种业务类型的任务分布”)。

4、费用说明

公测期间(公测时长待定)暂不收费公测预计在 4 月中旬正式开启,公测期至少维持 3 个月

5、了解更多

数据管理DMS(Data Management)是一款支撑数据全生命周期的一站式数据管理平台。DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能,致力于帮助企业高效、安全地挖掘数据价值,助力企业数字化转型。

产品介绍:https://www.aliyun.com/product/dms

目前产品处于邀测阶段可以加钉钉群申请开通试用,群号:44962304。

相关文章
|
1月前
|
关系型数据库 MySQL 数据挖掘
阿里云 SelectDB 携手 DTS ,一键实现 TP 数据实时入仓
DTS 作为阿里云核心的数据交互引擎,以其高效的实时数据流处理能力和广泛的数据源兼容性,为用户构建了一个安全可靠、可扩展、高可用的数据架构桥梁。阿里云数据库 SelectDB 通过与 DTS 联合,为用户提供了简单、实时、极速且低成本的事务数据分析方案。用户可以通过 DTS 数据传输服务,一键将自建 MySQL / RDS MySQL / PolarDB for MySQL 数据库,迁移或同步至阿里云数据库 SelectDB 的实例中,帮助企业在短时间内完成数据迁移或同步,并即时获得深度洞察。
阿里云 SelectDB 携手 DTS ,一键实现 TP 数据实时入仓
|
3月前
|
开发工具 开发者
阿里云 在智能媒体服务中,智能生产制作时长包,可以批量混剪视频吗?
【1月更文挑战第15天】【1月更文挑战第73篇】阿里云 在智能媒体服务中,智能生产制作时长包,可以批量混剪视频吗?
191 5
|
2月前
|
存储 数据可视化 数据管理
基于阿里云服务的数据平台架构实践
本文主要介绍基于阿里云大数据组件服务,对企业进行大数据平台建设的架构实践。
719 2
|
1月前
|
SQL 安全 数据管理
在阿里云数据管理DMS(Data Management Service)中,您可以按照以下步骤来创建和管理数据库
【2月更文挑战第33天】在阿里云数据管理DMS(Data Management Service)中,您可以按照以下步骤来创建和管理数据库
37 7
|
11天前
|
自然语言处理 Cloud Native Serverless
通义灵码牵手阿里云函数计算 FC ,打造智能编码新体验
近日,通义灵码正式进驻函数计算 FC WebIDE,让使用函数计算产品的开发者在其熟悉的云端集成开发环境中,无需再次登录即可使用通义灵码的智能编程能力,实现开发效率与代码质量的双重提升。
95469 4
|
1月前
|
人工智能 IDE API
灵动指尖 :阿里云智能编码插件 更好的为IDE内置社区服务
灵动指尖 :阿里云智能编码插件 更好的为IDE内置社区服务
|
1月前
|
存储 人工智能 自然语言处理
“智能+”时代,深维智信如何借助阿里云打造AI内容生成系统
随着数字经济的发展,线上数字化远程销售模式越来越成为一种主流,销售流程也演变为线上视频会议、线下拜访等多种方式的结合。根据Gartner报告,到2025 年60%的B2B 销售组织将从基于经验和直觉的销售转变为数据驱动的销售,将销售流程、销售数据、销售分析合并形成一致的运营实践。
405 0
“智能+”时代,深维智信如何借助阿里云打造AI内容生成系统
|
1月前
|
消息中间件 编解码 运维
阿里云 Serverless 异步任务处理系统在数据分析领域的应用
本文主要介绍异步任务处理系统中的数据分析,函数计算异步任务最佳实践-Kafka ETL,函数计算异步任务最佳实践-音视频处理等。
175311 348
|
1月前
|
存储 数据采集 Apache
众安保险 CDP 平台:借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛,人群圈选提速4倍
随着业务在金融、保险和商城领域的不断扩展,众安保险建设 CDP 平台以提供自动化营销数据支持。早期 CDP 平台依赖于 Spark + Impala + Hbase + Nebula 复杂的技术组合,这不仅导致数据分析形成数据孤岛,还带来高昂的管理及维护成本。为解决该问题,众安保险引入 Apache Doris,替换了早期复杂的技术组合,不仅降低了系统的复杂性,打破了数据孤岛,更提升了数据处理的效率。
众安保险 CDP 平台:借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛,人群圈选提速4倍
|
2月前
|
机器学习/深度学习 人工智能 供应链
阿里云 RPA:智能自动化的未来
随着科技的飞速发展,机器人流程自动化(RPA)正逐渐成为各行业提高效率和降低成本的重要手段。阿里云 RPA 作为领先的智能自动化解决方案,为企业和组织提供了强大的功能和无限的可能性。本文将探讨阿里云 RPA 在智能自动化领域的发展趋势、应用场景以及未来展望。

相关产品

  • 数据管理