开发者社区> 数据库> 数据仓库

数据仓库

关注

阿里云自主研发的云原生数据仓库,具有高并发读写、低峰谷读写、弹性扩展、安全可靠等特性,可支持PB级别数据存储,可广泛应用于BI、机器学习、实时分析、数据挖掘等场景。包含AnalyticDB MySQL版、AnalyticDB PostgreSQL 版。

0
今日
2622
内容
7
活动
1907
关注
|
9月前
|
缓存 安全 Java
|

阿里云数据库 SelectDB 内核 Apache Doris 2.0.6 版本正式发布

阿里云数据库 SelectDB 内核 Apache Doris 2.0.6 版本正式发布

1083 1
|
9月前
|
SQL 数据可视化 Apache
|

阿里云数据库内核 Apache Doris 兼容 Presto、Trino、ClickHouse、Hive 等近十种 SQL 方言,助力业务平滑迁移

阿里云数据库 SelectDB 内核 Doris 的 SQL 方言转换工具, Doris SQL Convertor 致力于提供高效、稳定的 SQL 迁移解决方案,满足用户多样化的业务需求。兼容 Presto、Trino、ClickHouse、Hive 等近十种 SQL 方言,助力业务平滑迁移。

994 1
|
9月前
|
存储 SQL 关系型数据库
|

ClickHouse(02)ClickHouse架构设计介绍概述与ClickHouse数据分片设计

ClickHouse的核心架构包括执行过程和数据存储两部分。执行过程涉及Parser与Interpreter解析SQL,通过Column、DataType、Block、Functions和Storage模块处理数据。Column是内存中列的表示,Field处理单个值,DataType负责序列化和反序列化,Block是内存中表的子集,Block Streams处理数据流。Storage代表表,使用不同的引擎如StorageMergeTree。数据存储基于分片和副本,1个分片由多个副本组成,每个节点只能拥有1个分片。

448 0
|
9月前
|
关系型数据库 MySQL 数据挖掘
|

阿里云 SelectDB 携手 DTS ,一键实现 TP 数据实时入仓

DTS 作为阿里云核心的数据交互引擎,以其高效的实时数据流处理能力和广泛的数据源兼容性,为用户构建了一个安全可靠、可扩展、高可用的数据架构桥梁。阿里云数据库 SelectDB 通过与 DTS 联合,为用户提供了简单、实时、极速且低成本的事务数据分析方案。用户可以通过 DTS 数据传输服务,一键将自建 MySQL / RDS MySQL / PolarDB for MySQL 数据库,迁移或同步至阿里云数据库 SelectDB 的实例中,帮助企业在短时间内完成数据迁移或同步,并即时获得深度洞察。

1270 3
|
9月前
|
SQL 存储 JSON
|

阿里云数据库 SelectDB 内核 Apache Doris 2.1.0 版本发布:开箱盲测性能大幅优化,复杂查询性能提升 100%

亲爱的社区小伙伴们,Apache Doris 2.1.0 版本已于 2024 年 3 月 8 日正式发布,新版本开箱盲测性能大幅优化,在复杂查询性能方面提升100%,新增Arrow Flight接口加速数据读取千倍,支持半结构化数据类型与分析函数。异步多表物化视图优化查询并助力仓库分层建模。引入自增列、自动分区等存储优化,提升实时写入效率。Workload Group 资源隔离强化及运行时监控功能升级,保障多负载场景下的稳定性。新版本已经上线,欢迎大家下载使用!

831 1
|
9月前
|
Cloud Native 关系型数据库 OLAP
|

高效易用的数据同步:阿里云瑶池 Zero-ETL服务来啦!

在大数据时代,企业有着大量分散在不同系统和平台上的业务数据。OLTP数据库不擅长复杂数据查询,不具备全局分析视角等能力,而OLAP数据仓库擅长多表join,可实现多源汇集,因此需要将TP数据库的数据同步到AP数据仓库进行分析处理。传统的ETL流程面临资源成本高、系统复杂度增加、数据实时性降低等挑战。为了解决这些问题,阿里云瑶池数据库提供了Zero-ETL服务,可以快速构建业务系统(OLTP)和数据仓库(OLAP)之间的数据同步链路,将业务系统的数据自动进行提取并加载到数据仓库,从而一站式完成数据同步和管理,实现事务处理和数据分析一体化,帮助客户专注于数据分析业务。

699 0
|
9月前
|
存储 容灾 Cloud Native
|

阿里云ClickHouse企业版正式商业化,为开发者提供容灾性更好、性价比更高的实时数仓

2024年4月23日,阿里云联合 ClickHouse Inc. 成功举办了企业版商业化发布会。阿里云 ClickHouse 企业版是阿里云和 ClickHouse 原厂 ClickHouse. Inc 独家合作的存算分离的云原生版本,支持资源按需弹性 Serverless,帮助企业降低成本的同时,为企业带来更多商业价值。

634 1
|
9月前
|
存储 监控 网络安全
|

Doris Manager 24.0 版本正式发布!

Doris Manager 24.0,SelectDB 的 Apache Doris 集群管理工具,迎来重大更新,包括管控模式升级至安全的 Agent 模式、新增任务审计、主机监控、计算节点部署支持等。此版本已获上千企业用户认可。新特性如 Agent 与 Server 间的 HTTP 通信,提升安全性;任务审计记录操作详情;监控模块扩展主机指标;集群巡检支持定时检查。此外,Doris Manager 提供了集群部署、扩缩容、升级、参数配置、日志查看、告警和审计等一系列高效管理功能。体验新版本,请参考安装和使用手册。

575 0
|
9月前
|
SQL 运维 Cloud Native
|

云数据仓库ADB问题之数据导出失败如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

166 2
|
9月前
|
缓存 Cloud Native 关系型数据库
|

云数据仓库ADB mysql3问题之点击开启没反应如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

123 2
|
9月前
|
存储 SQL 监控
|

云数据仓库ADB问题之单表查时提示数据倾斜如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

152 4
|
9月前
|
存储 自然语言处理 Cloud Native
|

云数据仓库ADB问题之全文索引检索字段过长时条件会失效如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

153 4
|
9月前
|
Cloud Native 数据管理 OLAP
|

云数据仓库ADB问题之首次查询很慢如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

124 5
|
9月前
|
JSON 监控 Cloud Native
|

云数据仓库ADB问题之json_unquote无效如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

156 2
|
9月前
|
SQL 监控 Cloud Native
|

云数据仓库ADB问题之创建物化视图时报错SQL错误如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

115 5
|
9月前
|
存储 SQL 数据管理
|

阿里云数据库 SelectDB 内核 Apache Doris 如何基于自增列满足高效字典编码等典型场景需求|Deep Dive 系列

自增列的实现,使得 Apache Doris 可以在处理大规模时展示出更高的稳定性和可靠性。通过自增列,用户能够高效进行字典编码,显著提升了字符串精确去重以及查询的性能。使用自增列作为主键来存储明细数据,可以完美的解决明细数据更新的问题。同时,基于自增列,用户可以实现高效的分页机制,轻松应对深分页场景,有效过滤掉大量非必需数据,从而减轻数据库的负载压力,为用户带来了更加流畅和高效的数据处理体验。

432 0
|
9月前
|
SQL 分布式计算 Hadoop
|

百川终入海 ,一站式海量数据迁移工具 X2Doris 正式发布

在这一过程中,如何将海量历史数据进行高效迁移成为用户的痛点所在。基于这一目标,我们启动了名为“百川入海”的专项开发任务,开发了**一站式海量数据迁移工具 X2Doris**,集自动建表和数据迁移于一体、提供了对 Apache Hive、ClickHouse、Apache Kudu 以及 StarRocks 等多个数据源的支持,全程界面化、可视化操作,仅通过鼠标操作即可完成大规模数据同步至 Doris 中,并提供了极速和稳定的迁移体验。在经过数个月的公开测试和近百家企业的打磨后,今天我们很高兴地宣布, **X2Doris 正式发布、面向所有社区用户免费下载使用**,数据迁移至 Apache Do

410 0
|
9月前
|
SQL 自然语言处理 Apache
|

文本检索性能提升 40 倍,Apache Doris 倒排索引深度解读

如何充分利用倒排索引以及 NGram Bloom Filter 索引进行查询加速,并详细解析其工作原理与最佳实践。

645 0
|
9月前
|
存储 JSON Apache
|

揭秘 Variant 数据类型:灵活应对半结构化数据,JSON查询提速超 8 倍,存储空间节省 65%

在最新发布的阿里云数据库 SelectDB 的内核 Apache Doris 2.1 新版本中,我们引入了全新的数据类型 Variant,对半结构化数据分析能力进行了全面增强。无需提前在表结构中定义具体的列,彻底改变了 Doris 过去基于 String、JSONB 等行存类型的存储和查询方式。

353 1
|
9月前
|
SQL 运维 关系型数据库
|

基于AnalyticDB PostgreSQL的实时物化视图研发实践

AnalyticDB PostgreSQL企业数据智能平台是构建数据智能的全流程平台,提供可视化实时任务开发 + 实时数据洞察,让您轻松平移离线任务,使用SQL和简单配置即可完成整个实时数仓的搭建。

680 1
|
9月前
|
SQL 数据库 HIVE
|

python链接hive数据库实现增删改查操作

python链接hive数据库实现增删改查操作

388 0
|
9月前
|
SQL 运维 关系型数据库
|

基于AnalyticDB PostgreSQL的实时物化视图研发实践

AnalyticDB PostgreSQL版提供了实时物化视图功能,相较于普通(非实时)物化视图,实时物化视图无需手动调用刷新命令,即可实现数据更新时自动同步刷新物化视图。当基表发生变化时,构建在基表上的实时物化视图将会自动更新。AnalyticDB PostgreSQL企业数据智能平台是构建数据智能的全流程平台,提供可视化实时任务开发 + 实时数据洞察,让您轻松平移离线任务,使用SQL和简单配置即可完成整个实时数仓的搭建。

144028 8
|
9月前
|
SQL Java 数据库连接
|

java链接hive数据库实现增删改查操作

java链接hive数据库实现增删改查操作

470 0
|
9月前
|
人工智能 关系型数据库 MySQL
|

一键实现穿衣自由|揭秘淘宝AI试衣间硬核技术:AnalyticDB MySQL向量在线召回

在AI试衣间功能的背后,阿里云瑶池旗下的云原生数据仓库AnalyticDB MySQL提供了高维向量低延时的在线向量召回检索服务,下面将进行介绍。

838 3
|
9月前
|
关系型数据库 专有云 MySQL
|

云数据仓库ADB问题之查询特慢如何解决

云数据仓库AnalyticDB是阿里云提供的一种高性能、弹性扩展的云原生数据仓库解决方案;本合集将深入探讨ADB的架构、性能调优、数据管理和应用场景等,以及如何解决在使用过程中可能出现的问题,提高数据仓库的使用效率。

129 6
|
9月前
|
存储 消息中间件 Ubuntu
|

如何在 Ubuntu 20.04 上以独立模式设置 MinIO 对象存储服务器

在本教程中,将通过以下方式设置 MinIO 的独立部署: - 在运行 Ubuntu 20.04 的服务器上安装 MinIO 服务器。 - 个人计算机上安装 MinIO 客户端并将其配置为与 MinIO 服务器通信。 - 设置数字证书以保护服务器和客户端之间的通信(包括通过 MinIO 控制台)。

575 1
|
9月前
|
SQL 分布式计算 Java
|

linux安装Hive详细步骤

【1月更文挑战第2天】linux安装Hive详细步骤

400 0
|
9月前
|
分布式计算 关系型数据库 MySQL
|

阿里云ADB MySQL X Intel联合推出训练营,参营完成任务即可获100元话费卡!

AnalyticDB MySQL和Intel联合推出基于ADB Spark的训练营,ADB新用户参营完成任务即可获得价值100元的话费卡权益包!下图可扫码参加,也可直接点击链接前往 https://edu.aliyun.com/trainingcamp/355118

402 0
|
9月前
|
SQL 数据可视化 关系型数据库
|

保姆级教程|如何可视化构建实时数仓

业务上需要实时数据分析,离线任务改造成本高?数据发生变更,难以像批处理任务那样修正?AnalyticDB for PostgreSQL 提供了真正的 Stream warehouse 解决方案,具备实时ETL、行列混合存储和高性能分析引擎,实时构建数仓。为了进一步提升上手易用性,AnalyticDB for PostgreSQL 发布了企业数据智能平台,提供可视化实时任务开发 + 实时数据洞察,让您轻松平移离线任务,使用SQL和简单配置即可完成整个实时数仓的搭建。并支持实时数据洞察,可对实时数仓任意表进行Ad-hoc查询、数据探索及图表分析,让您实时数据debug和快速进行业务洞察。

1528 2
|
9月前
|
Java 数据库连接 Apache
|

阿里云数据库 SelectDB 版内核 Apache Doris 2.0.3 版本正式发布

Apache Doris 2.0.3 版本已于 2023 年 12 月 14 日正式发布,该版本对复杂数据类型、统计信息收集、倒排索引、数据湖分析、分布式副本管理等多个功能进行了优化,欢迎大家下载体验。

923 0
|
9月前
|
人工智能 关系型数据库 MySQL
|

一键实现穿衣自由,揭秘淘宝AI试衣间硬核技术,AnalyticDB向量在线召回

云原生数据仓库AnalyticDB MySQL为淘宝AI试衣间提供高维向量低延时的在线向量召回检索服务。

108921 40
|
9月前
|
SQL 缓存 运维
|

常用ClickHouse问题诊断查询

Clickhouse是一个性能强大的OLAP数据库,在实际使用中会遇到各种各样的问题,同时也有很多可以调优的地方。诊断调优所用到的SQL查询必不可少。本文就是一个ClickHouse日常运维的常用SQL查询手册。这个手册本人就在用,非常实用。

74470 48
|
存储 Java 测试技术
|

ClickHouse Keeper: 一个用 C++ 编写的 ZooKeeper 替代品

ClickHouse Keeper: 一个用 C++ 编写的 ZooKeeper 替代品介绍

70917 34
|
SQL Cloud Native 关系型数据库
|

自动弹性,QPS线性提升,一文读懂云原生数仓AnalyticDB弹性技术原理

云原生数仓AnalyticDB MySQL推出Multi-Cluster弹性资源模式,它具备贴合用户负载、自动配置、性能线性提升等优点,进一步帮用户节省成本,提高计算效率。

69014 14
|
存储 分布式计算 关系型数据库
|

云原生数据仓库AnalyticDB MySQL湖仓版架构升级,持续释放技术红利!

云原生数据仓库AnalyticDB MySQL湖仓版架降价23%!持续提供高性价比的产品服务

1115 3
|
存储 运维 BI
|

云数据库SelectDB 产品解析及最佳实践

2023年10月31日-11月2日,云栖大会在杭州举办,阿里云正式对外发布了云原生全托管产品——“阿里云数据库 SelectDB 版”,SelectDB 是基于 Apache Doris 内核打造的聚焦于企业大数据实时分析需求的企业级产品,通过深度融合云随需而用的特性,构建起云原生存算分离的全新架构,面向企业海量数据的实时分析需求提供极速实时、融合统一、简单易用的云上数仓服务。

70418 20
|
存储 SQL 测试技术
|

使用ClickHouse进行向量搜索 - 第二部分

本文介绍了如何使用ClickHouse进行向量搜索。总体来说,本文通俗易懂地介绍了如何使用ClickHouse进行向量搜索,包括概念、实现、高级功能和应用示例,对使用ClickHouse进行向量搜索提供了很好的概述。

52058 19
|
存储 分布式计算 关系型数据库
|

云原生数据仓库AnalyticDB MySQL湖仓版架构升级,持续释放技术红利!

湖仓版ACU(1C4G)单价全面下调23%

1531 1
|
人工智能 关系型数据库 OLAP
|

慧博科技「H-AI」智能助手引入阿里云AnalyticDB,开启商家智能数字化时代

依托于阿里云瑶池数据库AnalyticDB,推出一站式AIGC解决方案

1151 0
|
SQL Cloud Native 关系型数据库
|

陈长城:NineData面向Doris实时数仓集成的技术实践

在刚刚过去的北京Doris Summit Asia 2023,玖章算术技术副总裁陈长城受邀参加并做了《NineData面向Doris实时数仓集成的技术实践》报告。

1146 1
|
运维 关系型数据库 OLAP
|

阿里云百炼 x AnalyticDB向量引擎, 搭积木式轻松开发专属大模型应用

对大模型应用跃跃欲试,但奈何技术栈复杂难以下手?已经进行试水,但缺乏调优手段无法保障召回率和问答准确度?自行搭建大模型、向量检索引擎、服务API等基础组件难以运维?大模型种类繁多,但缺乏行业模型和应用模板?阿里云百炼 x AnalyticDB向量引擎推出一站式企业专属大模型开发和应用平台,像搭积木一样轻松完成企业专属大模型应用的开发,提供应用API,可一键接入企业自己的业务应用对外提供服务。

1630 3
|
存储 运维 大数据
|

平安人寿基于 Apache Doris 统一 OLAP 技术栈实践

平安人寿作为保险行业领军企业,坚持技术创新,以数据业务双轮驱动的理念和更加开放的思路来应对不断增长的数据分析和应用需求;以深挖数据价值、保障业务用数效率为目标持续升级大数据产品体系。自 2022 年起平安人寿开始引入开源实时数据仓库 Apache Doris 并基于此统一 OLAP 技术栈,通过统一的数据开发与服务打破了原有系统的数据“孤岛”、降低了需求的开发成本、加速了业务需求的交付周期,并满足了业务方更高数据时效性与查询响应度的要求,最终形成更开放、灵活、可扩展的企业级管理与分析大数据产品体系,实现数据价值的最大化释放,助力企业由“粗放型”业务增长转变为“精细化”效益提升。

1490 2
|
SQL 分布式计算 关系型数据库
|

阿里云AanalyticDB MySQL湖仓版,降价23%!

阿里云云原生数据仓库AnalyticDB MySQL版是基于湖仓一体架构打造的实时数仓,高度兼容MySQL,支持毫秒级更新,亚秒级查询。 无论是数据湖中的非结构化或半结构化数据,还是数据库中的结构化数据,您都可使用AnalyticDB MySQL版构建企业的数据分析平台,同时完成高吞吐离线处理和高性能在线分析,实现降本增效。

638 2
|
存储 自然语言处理 算法
|

使用ClickHouse进行矢量搜索 - 第一部分

本文介绍了向量搜索的概念,即使用数学向量来存储和检索数据。向量可以捕捉数据的语义关系,提高搜索效率。文章还提到了向量搜索在推荐、问题回答、图像/视频搜索等方面的应用。向量搜索可以应用于文本数据、图像数据、音频数据等不同类型的数据。最后,文章总结了向量搜索的挑战和现有技术,并展望了未来的研究方向。

47831 26
|
存储 人工智能 关系型数据库
|

5倍性能提升,阿里云AnalyticDB PostgreSQL版新一代实时智能引擎重磅发布

2023 云栖大会上,AnalyticDB for PostgreSQL新一代实时智能引擎重磅发布,全自研计算和行列混存引擎较比开源Greenplum有5倍以上性能提升。AnalyticDB for PostgreSQL与通义大模型家族深度集成,推出一站式AIGC解决方案。阿里云新发布的行业模型及“百炼”平台,采用AnalyticDB for PostgreSQL作为内置向量检索引擎,性能较开源增强了2~5倍。大会上来自厦门国际银行、三七互娱等知名企业代表和瑶池数据库团队产品及技术资深专家们结合真实场景实践,深入分享了最新的技术进展和解析。

1486 14
|
人工智能 关系型数据库 OLAP
|

云栖大会|AI+Data,新一代智能数仓的实践与畅想

全面拥抱一站式智能化

1907 14
|
负载均衡 Kubernetes 关系型数据库
|

更快、更准、更灵活,AnalyticDB MySQL多集群自动弹性技术解析

在全球经济增长放缓的大背景之下,企业在加强数字化建设的过程中,降本增效成为一个绕不开的话题。云原生数仓AnalyticDB MySQL湖仓版(以下简称ADB MySQL) 在发布之初提供了定时弹性功能,帮助业务有规律的客户定时升降配计算资源以节省成本。时隔一年,ADB MySQL针对用户痛点,在今年云栖大会上重磅推出Multi-Cluster弹性资源模式,它具备贴合用户负载、自动配置、性能线性提升等优点,进一步帮用户节省成本,提高计算效率。

11248 9
|
存储 SQL 编解码
|

如何在ClickHouse中处理时序数据

ClickHouse具有强大的工具,可以高效地存储和处理时序数据,并可用于简单的解决方案和数据发掘,以及支持PB级的实时分析应用。

1317 0
|
存储 数据采集 监控
|

建立数据仓库的基本准则

建立数据仓库的基本准则

161 0
|
存储 自然语言处理 数据库
|

ClickHouse中的倒排索引能解决你什么问题?

ClickHouse中的倒排索引能解决你什么问题?

38267 3
我要发布