云原生数据仓库AnalyticDB MySQL 助力蜂创提升营销SAAS平台和CDP产品性能

简介: 阿里云AnalyticDB满足了蜂创营销SAAS平台海量数据实时分析秒级返回的诉求,弹性模式的冷热存储分离能力帮助他们节约了很大的数据存储成本。

阿里云AnalyticDB(下文简称:ADB)满足了我们营销SAAS平台海量数据实时分析秒级返回的诉求,平台的用户和订单数据一直大规模增长,对分析型数据库的弹性要求较高,ADB的平滑弹性升降配对业务影响很小,在扩容升配的时候还能正常访问;ADB弹性模式的冷热存储分离能力帮我们节约了很大的数据存储成本。PolarDB-X解决了我们海量数据读写和存储扩展性的问题。  ----蜂创科技研发负责人吕军雷


关于蜂创科技


image.png

北京蜂创科技有限公司于2016年成立,中国企业级数字化营销解决方案提供商。公司拥有品牌“极目云客”。旗下营销活动一体化管理SaaS平台、客户关系CRM管理平台、终端门店管理平台、精准营销投放平台等平台,领先于国内数字营销垂直领域。以SaaS管理平台、资源供应链、整合传播增值服务为一体化解决方案,为企业级客户精准实现市场目标提供高效助力。


致力于企业的数字化营销,让企业在人、货、场上数据在线,并进行参与互动,数据智能和有效协作。

业务快速发展,面临巨大技术挑战


蜂创的业务飞速发展,数据量迅猛增长,给数据平台带来了巨大的技术挑战。


查询速度慢

极目云客平台单表数据量从数亿到数十亿不等,业务上需要做多表关联以及多维度及时分析查询。过去用普通关系数据库来支撑,查询耗时太长,不能快速返回业务查询结果,特别是对于交互式探索分析来说,用户体验影响更大;希望在毫秒/秒级实时响应,提高产品核心竞争力。


降低技术复杂度

基于传统数据仓库和以hadoop为代表的大数据技术方案,由于技术组件多、架构复杂、数据链路长、技术复杂度高,带来的问题是系统维护成本高,需要投入较大人力专门搭建平台和升级运维。由于学习成本高,人才培养难度大。


同时由于数据需要经过多个技术组件,数据接入和数据ETL开发工作量都比较大,新增一个业务场景需要全链路开发,从数据产生到应用上线时间周期长。


扩展性要求高

近年来公司业务发展非常迅速,客户数越来越多,数据量越来越大,需要保证平台的读写和存储性能水平扩展,要求技术架构稳定,业务代码无需修改来应对业务增长。


实时数仓解决方案

针对蜂创的业务挑战和应用场景,采用AnalyticDB MySQL版(简称ADB)作为实时数仓引擎,构建云上湖仓一体的解决方案,整体技术架构如下图所示:

image.png

业务数据通过DTS将PolarDB-X的数据同步到ADB,简化数据采集链路开发过程,解决数据传输实时性问题, 实现数据秒级延迟。


基于AnalyticDB构建一体化的数据仓库,能在同一平台进行数据清洗、ETL计算和实时查询服务,数据无需搬迁,减少开发工作量。


AnalyticDB支持数十亿数据毫秒/秒级查询实时响应,实现交互查询应用和报表实时化,极大提高了用户体验和产品竞争力。


AnalyticDB支持对OSS等外部开放数据存储进行自由读写。


同时AnalyticDB支持冷热数据分层功能,可以根据业务特征将数据定义为热数据、温数据和冷数据。热数据存储在ESSD介质上,查询性能好;将冷数据存储在OSS等介质上,查询性能稍弱,但存储成本降低;支持按照二级分区将同一张表的近期数据定义为热数据、远期数据定义为冷数据,热数据按时间周期滚动变为冷数据,既保证热点数据的查询性能,又能降低存储成本。冷热数据存储功能让存储总成本降低60%以上。


image.png

AnalyticDB弹性能力


AnalyticDB采用云原生的技术架构,天然具备原生的弹性能力。AnalyticDB支持集群资源横向水平扩展,在不中断业务的情况下随时动态扩容,降低运维成本。


在蜂创的业务场景中,存在明显的波峰波谷特征,在上班高峰期早上9点至11点查询请求量是其他时段的数倍。过去为了应对查询高峰,需要最大化预留计算资源,但在业务低峰期,这些资源实际上是浪费的。


AnalyticDB的分时弹性能力完美地解决了这个问题,可以按小时制定分析弹性计算资源计划,每天早上8点半准时弹出扩展计算资源,11点自动释放,平滑地解决了业务高峰资源瓶颈问题。分时弹性计算资源按小时计费,只需承担2小时的资源成本,比过去24小时持有计算资源的模式总体成本降低30%。


image.png

未来展望

大数据与数据库技术的融合是大势所趋,“湖仓一体”正成为企业数据仓库架构设计新方向。AnalyticDB 具备海量数据的存储和计算能力、支持开放的数据格式,同时具备数据库的数据实时写入更新、数据一致性,兼容标准SQL语法,与常用BI产品无缝对接。既具备大数据平台的能力又具备数据库的体验,是企业级数据仓库产品的最佳选择。


image.png

相关实践学习
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
目录
相关文章
|
4月前
|
存储 SQL 机器学习/深度学习
一文辨析:数据仓库、数据湖、湖仓一体
本文深入解析数据仓库、数据湖与湖仓一体的技术原理与适用场景。数据仓库结构严谨、查询高效,适合处理结构化数据;数据湖灵活开放,支持多模态数据,但治理难度高;湖仓一体融合两者优势,实现低成本存储与高效分析,适合大规模数据场景。文章结合企业实际需求,探讨如何选择合适的数据架构,并提供湖仓一体的落地迁移策略,助力企业提升数据价值。
一文辨析:数据仓库、数据湖、湖仓一体
|
4月前
|
存储 机器学习/深度学习 数据采集
数据湖 vs 数据仓库:大厂为何总爱“湖仓并用”?
数据湖与数据仓库各有优劣,湖仓一体架构成为趋势。本文解析二者核心差异、适用场景及治理方案,助你选型落地。
数据湖 vs 数据仓库:大厂为何总爱“湖仓并用”?
|
6月前
|
SQL DataWorks 关系型数据库
DataWorks+Hologres:打造企业级实时数仓与高效OLAP分析平台
本方案基于阿里云DataWorks与实时数仓Hologres,实现数据库RDS数据实时同步至Hologres,并通过Hologres高性能OLAP分析能力,完成一站式实时数据分析。DataWorks提供全链路数据集成与治理,Hologres支持实时写入与极速查询,二者深度融合构建离在线一体化数仓,助力企业加速数字化升级。
|
7月前
|
监控 关系型数据库 MySQL
DTS实时同步进阶:MySQL到AnalyticDB毫秒级ETL管道搭建
本方案采用“Binlog解析-数据清洗-批量写入”三级流水线架构,实现MySQL到AnalyticDB的高效同步。通过状态机解析、内存格式转换与向量化写入技术,保障毫秒级延迟(P99<300ms)、50万+ TPS吞吐及99.99%数据一致性,支持高并发、低延迟的数据实时处理场景。
225 10
|
11月前
|
SQL 消息中间件 Kafka
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
本文介绍了阿里云实时数仓Hologres负责人姜伟华在Flink Forward Asia 2024上的分享,涵盖实时数仓的发展历程、从实时数仓到实时湖仓的演进,以及总结。文章通过三代实时数仓架构的演变,详细解析了Lambda架构、Kafka实时数仓分层+OLAP、Hologres实时数仓分层复用等方案,并探讨了未来从实时数仓到实时湖仓的演进方向。最后,结合实际案例和Demo展示了Hologres + Flink + Paimon在实时湖仓中的应用,帮助用户根据业务需求选择合适的方案。
1580 20
Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
|
11月前
|
存储 SQL 大数据
【重磅发布】AllData数据中台核心功能:湖仓一体化平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
【重磅发布】AllData数据中台核心功能:湖仓一体化平台
|
10月前
|
SQL 分布式计算 数据处理
【重磅发布】AllData数据中台核心功能:湖仓平台中心
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
|
11月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
本文整理自鹰角网络大数据开发工程师朱正军在Flink Forward Asia 2024上的分享,主要涵盖四个方面:鹰角数据平台架构、数据湖选型、湖仓一体建设及未来展望。文章详细介绍了鹰角如何构建基于Paimon的数据湖,解决了Hudi入湖的痛点,并通过Trino引擎和Ranger权限管理实现高效的数据查询与管控。此外,还探讨了湖仓一体平台的落地效果及未来技术发展方向,包括Trino与Paimon的集成增强、StarRocks的应用以及Paimon全面替换Hive的计划。
1411 1
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
|
10月前
|
SQL 消息中间件 Serverless
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
​Flink+Paimon+Hologres,面向未来的一体化实时湖仓平台架构设计
332 4
|
10月前
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
743 2

热门文章

最新文章

相关产品

  • 云原生数据仓库AnalyticDB MySQL版
  • 推荐镜像

    更多