2022云栖精选—达摩院加持下的数据库技术前沿

本文涉及的产品
云原生内存数据库 Tair,内存型 2GB
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云原生数据库 PolarDB MySQL 版,Serverless 5000PCU 100GB
简介: 汪晟阿里巴巴集团资深技术专家达摩院数据库与存储实验室系统与安全方向负责人

lQLPJxbcF2cqNBvMiM0FeLCMz4ifcSGHeANpqgFLAEAA_1400_136.png

image.png

达摩院数据库存储实验室自 2018 成立以来,一直致力于面向云时代构建原生数据库管理系统,希望通过技术创新为企业客户带更高质量、更高价值数据库管理服务最终让企业客户数据能够无缝安全、智能自由流动。

目前,达摩院数据库与存储实验室主要聚焦于全域多模、安全可信、智能自治、混合负载几个研究方向。同时,我们也将研究成果真实落地到了阿里云各个数据库产品之中,为企业客户带来全新体验。

一、全域多模

近年来,智能位置技术发展非常迅速,主要运用自动驾驶、智能物流、增强现实等场景之中。相信未来,这些面向全空间位置服务将会深入融入到我们工作生活方方面面。面向全空间场景,需要管理数据类型越来越多,数据规模也越来越大。因此,如何更好管理数据存储数据便成为了的更大挑战。

image.png

达摩院打造孪生全空间数据管理引擎Ganos将全空间数据管理能力融入到云原生数据库管理层中在业界首个提出了融合了空天地地上下室内外全模态数据混合存储查询与分析计算服务

上图列出了Ganos十大功能引擎。比如处理车辆行驶数据会使用到轨迹引擎,处理建筑模型数据会用到表面网格引擎,不同引擎组合在一起解决了现实生活中非常复杂模型表达与数据操作问题,实现了全空间数据在数据库内部的超融合计算。

image.png

Ganos发布了全新5.0版本,支持了算一体化3D全空间数据处理,主要包含三个核心能力突破。

第一,基于表面网格、三维实景与体网格构建了3D全空间模型,使得城市全域传输的复杂场景得以在Ganos中进行表达。

第二,在数据库内支持了全空间计算能力,比如拓扑关系计算计算使得全空间复杂计算相比于传统中间件方式提升了50100倍。

第三,支持了全空间扩展存储,可以将部分数据存储于成本更低OSS空间,使得库内数据容量降低50%

image.png

除了功能升级Ganos也与阿里云数据可视化平台DataV进行了深度融合,相比于传统数字与孪生系统有全面升级,包括全空间、可计算孪生真孪生指使用实体模型取代传统静态切片,使得数据真正能够动起,能够实时进行计算与分析。


二、安全可信

近年来,企业数字化进程不断加快,数据已经成企业重要资产。同时数据安全法、个人信息曝光法纷纷出台,国家对数据安全重视度越来越高。

如此严峻形势下,企业如何在允许数据在不同系统与组织之间流动使用同时,还能保障数据资产安全,成为了现在数据库管理系统面临的巨大挑战。

image.png

达摩院打造下一代数据库安全可信体系,在业界首个提出面向生命周期数据密态管理理念,通过创新技术更好地保障企业数据资产机密性、真实性与隐私性。

image.png

数据库安全可信体系包括以下几项核心能力:

第一,全链路敏感数据保护能够让业务敏感数据比如客户个人信息在进入整个应用链路最初即进行加密,在后续任何子系统中都看不到数据明文,只有授权角色方能看到动态脱敏后的数据。

第二,全密态数据库密文数据进入数据库以后无需解密,可直接在密文上进行数据查询、分析与计算,实现企业数据资产可用可见。

第三,防篡改能力。对真实性要求很高数据,比如存证数据、合约数据等,可通过防篡改能力验证数据真实性,并且追溯任何对数据操作修改历史。

第四,隐私计算引擎企业可以将自己数据资产与第三方数据资产进行跨组织融合分析,在不泄露任何一方数据隐私前提下,利用数据进行计算,得到需要的结果。同时也实现了企业资产共用不共享。

  全链路敏感数据保护以及全密态数据库研究成果已经发表在今年数据库VLDB,防篡改数据能力也是首批通过信院防篡改测评的产品,隐私计算目前覆盖所有常用功能。

依托于阿里云数据库DMS平台,我们将创新安全能力以及数据库经典的安全能力统一管理,为用户提供了覆盖数据全生命周期安全保护与隐私保护体系。

image.png

我们的产品通过通过了各项安全资质认证同时在积极与各个权威机构协作,推行各个行业数据安全标准,密切关注数据与安全行业发展。


三、智能自治

近年数据库技术与人工智能技术不断碰撞,催生了两技术,其一 AI for DB,用AI能力更好提升数据库使用体验;其二,DB for AI ,通过DB能力更好挖掘数据蕴含价值。

image.png

达摩院 AI for DB方向打造了国内领先数据自治技术,也促成了行业标准是首批通过信通院数据库系统智能化标准的厂商之一。可以利用可观测能力,通过分析自动执行数据库运维操作,将客户从复杂的运维工作中解放出来,将更多精力聚焦在业务本身。比如,时序分析算法在数据库内提供了时序,在相同准确率的情况下,性能优于竞品1000倍以上,且使用非常方便。

DB for AI方面,我们在数据内提供原生AI算法,能够将数据与 AI 算法统一进行管理相比于传统将数据导出到外部的方式更简单更高效。基于内置AI算法也提供了比如数据库知识咨询、实体关系识别 ID MappingNL2SQL等各种 AI 解决方案。

NL2SQL技术在耶鲁大学Spider测评评为全球准确度第一,执行速度10倍于竞品。我们也在公开数据集上进行了测试,超过 80% 测试任务效果会优于其他方案。

image.png

根据预测20232025全球将75%的数据库实例运行在云上,大规模的云上实例更加速了数据库自治的需求。我们打造的 AI for DB能力已经服务于超过 70 万数据库实例

image.png

DB for AI 方面,达摩院联合PolarDB ,发布了首款DB数据库原生服务Polar4AI可以在PolarDB 内搭建更高要求的 AI 应用,比如可一键搭建数据库知识咨询风险控制金融服务、搜索推荐等。同时内置 MLOps 使用户能够通过声明式SQL方式方便管理AI任务,也可以帮助用户将自然语言任务需求自动转化为数据库的执行SQL

目前Polar4AI能力在很多复杂场景之下已经达到商业要求因此阿里云数据库已经采用了技术,帮助用户更高效、更快捷地管理数据资产。


四、系统内核

image.png

分布式一致性协议通常需要通过Paxos/Raft协议保证不同节点之间对整个数据库运行状态达成共识。传统方式下,一般要求数据操作必须严格按照顺序存储。而达摩院创新采取了分布式乱序存储方式,规避了顺序存储带来的性能瓶颈。相同规格下,吞吐可提升7

分布式数据要提供原子性需要引入分布式事务处理机制。传统2PC机制在高吞吐、高并发高冲突情况下,很容易出现性能瓶颈。达摩院对场景进行优化,避免写操作被回退,大幅降低了性能瓶颈出现的概率,吞吐提升30%100%

image.png

近年来,HTAP 数据库的架构演进迅速,经过探索我们发现基于共享存储与 in-memory 列存的架构方案相比传统方案,在弹性伸缩方面存在明显优势。该方案在内存上采取了行列转存设计,使得AP节点构造时效率大幅提升。

数据库算子硬件化方面通过利用可编程交换机硬件 SNA),将数据库操作比如一致性协议、缓存、负载均衡等能力下推到网络层,减少DBOS计算任务,实现了降本增效

image.png

实验室在潜心研究同时,也持续不断地在数据库学术界发。今年实验室联合阿里数据库产品团队在数据库三大顶会共发表论文16。值得一提的是,VLDB 2022 Industrial Track全球共收录22篇,其中阿里云数据库5篇,也证明了达摩院的研究实力与学术影响力。

未来达摩院数据库实验室会继续不断探索数据库领域技术前沿,与阿里数据产品服务一起相互促进,为企业源源不断提供技术能力,提升数据价值,为大家带来更好地数据库体验。

lQLPJxbcF2cqM2TM-M0CnrCgW_7LDpyh1wNpqgFKAPsA_670_248.png

相关文章
|
2天前
|
监控 Java 数据库连接
Java开发者必读:连接池技术如何提升数据库连接效率
【6月更文挑战第24天】Java开发中,面对高并发的数据库访问,连接池技术成为性能优化的关键。它预先创建连接池,减少频繁的连接创建/关闭,提升响应速度,节省资源,并增强系统稳定性。例如,HikariCP连接池通过配置实现DB连接管理,简化代码并提升应用性能。
|
2天前
|
SQL Java 数据库连接
打破瓶颈:利用Java连接池技术提升数据库访问效率
【6月更文挑战第24天】Java连接池优化数据库访问性能,减少资源消耗。原理是预创建数据库连接池,复用连接而非频繁建立断开。优势包括性能提升、资源节约和增强稳定性。示例使用HikariCP配置连接池,动态获取和释放连接。通过连接池技术,应用能更高效地处理数据库操作。
|
2天前
|
Java 数据库连接 数据库
优化之路:Java连接池技术助力数据库性能飞跃
【6月更文挑战第24天】Java连接池技术优化数据库性能,减少连接开销,提高响应速度。常见库有HikariCP、C3P0、DBCP。选择时考虑性能、功能和稳定性。以HikariCP为例,配置包括设置URL、用户、密码和最大连接数。优化配置涉及最大连接数调整、连接超时及连接校验。连接池能提升应用效率,确保资源有效利用。
|
2天前
|
SQL Java 关系型数据库
探索Java数据库连接的奥秘:JDBC技术全攻略
【6月更文挑战第24天】Java的JDBC是连接数据库的标准,提供统一API访问多种数据库。本文涵盖JDBC的基本概念、核心组件(如DriverManager、Connection、Statement、PreparedStatement和ResultSet)和最佳实践。示例展示了如何用JDBC连接MySQL,执行查询并处理结果。最佳实践包括使用PreparedStatement防SQL注入,妥善管理资源,处理异常,使用事务以及优化性能。了解和掌握JDBC能提升数据库操作的效率和安全性。
|
2天前
|
SQL 数据库 数据库管理
逆向学习数据库篇:多表查询技术详解
逆向学习数据库篇:多表查询技术详解
4 0
|
2天前
|
SQL 监控 Java
技术实战:Java数据库连接池优化策略解析
【6月更文挑战第24天】Java应用的数据库连接池优化关键在于参数调整、预编译SQL和监控。案例中,高并发购物系统初期使用C3P0,因参数不合理导致性能瓶颈。调整如设置`MinPoolSize`为10,`MaxPoolSize`为50,和`CheckoutTimeout`为3000ms,配合预编译SQL提升执行效率。通过JMX监控连接池状态,动态调优,确保系统响应速度和资源利用。
|
2天前
|
SQL Java 关系型数据库
Java与数据库连接技术JDBC关键核心之PreparedStatement以及SQL注入演示解决和原理
Java与数据库连接技术JDBC关键核心之PreparedStatement以及SQL注入演示解决和原理
6 0
|
2天前
|
存储 关系型数据库 MySQL
关系型数据库MySQL的MyISAM
【6月更文挑战第17天】
21 11
|
1天前
|
SQL 关系型数据库 MySQL
关系型数据库mysql的CSV
【6月更文挑战第18天】
18 6
|
4天前
|
存储 关系型数据库 MySQL