诗悦游戏基于DLF与EMR StarRocks降本38%

简介: 诗悦网络(2014年成立)是千人规模的研运一体手游公司,代表作有《长安幻想》《永夜降临》等。为支撑PB级开放世界新游《望月》,其原半托管StarRocks数据平台面临高成本、难运维、稳定性差等痛点。阿里云以Serverless StarRocks+DLF Paimon数据湖方案实现存算分离、多租户隔离与全托管运维,总成本降38%,查询性能提升40%+,RPO=0,全面赋能实时/近实时/离线场景。

客户背景

客户简介

诗悦网络,成立于2014年,是专注于精品手游研发和全球化发行的研运一体公司,团队规模超千人。以“精品游戏探索者”为研发理念,以“给玩家以快乐,给团队以成长”为核心价值观。诗悦陆续推出了多款高人气的精品游戏,包括《长安幻想》、《永夜降临:复苏》、《最后的原始人》、《云上城之歌》、《斗罗大陆:武魂觉醒》、《轩辕剑:剑之源》、《闪烁之光》、《仙凡幻想》、《仙灵觉醒》等,产品类型涵盖二次元、回合制、ARPG、放置卡牌、ACT等。

客户行业

游戏行业

客户业务场景

用户画像、报表、指标平台

客户痛点及面临的挑战

诗悦游戏团队原基于半托管Starrocks构建数据平台(赤霄),本次架构升级希望解决现有高成本、难运维、稳定性差等诸多痛点的同时做稳定性、安全性、性能、成本等多方面的升级,以此来支撑未来将要发布的开放世界游戏PB级项目《望月》。

技术层面核心痛点

  • 原架构存算一体,数据三副本存储在本地盘上存储成本高。
  • 原Starrocks半托管形态,运维成本高,每次扩容/升级投入人力高。
  • 原架构在不同业务间缺少资源隔离能力,造成资源争抢现象,使得集群稳定性差。
  • 目前架构可扩展性较差,难以支撑未来《望月》项目,急需做架构升级,应对PB级数据大规模存储和计算。

业务层面核心痛点

  • 业务侧查询响应慢。
  • 由于业务的不断发展对数据的准确性、实时性要求更高。


阿里云解决方案

产品: DLF、 Serverless Spark、Flink、Serverless StarRocks、DataWorks

技术:

  • 数仓层面:阿里云ServerlessStarrocks替换半托管StarRocks。存算分离,支持多计算组资源隔离、支持可视化的缓存管理等。以更高的性能支持赤霄平台稳定运行。
  • 数据湖层面:支持数据流式入湖,做流式ETL。使用DLF Paimon湖格式,支持多引擎访问,Spark支持大规模数据ETL,为未来PB级项目《望月》奠定基础。

业务:

  • 实时业务:Flink—>Serverless StarRocks存算分离
  • 近实时业务:Flink/DataWorks数据集成—>DLF Paimon—>StarRocks存算分离
  • 离线业务:DataWorks数据集成—>DLF Paimon—>Spark

方案架构图:

解决方案提供的核心价值

  • 成本降低: 总成本降低38%。计算性能提升将计算资源下降17%。采用存算分离架构将存储由三副本降低为单副本,降本66%。
  • 简化运维:Serverless StarRocks全托管免运维,原集群每三个月需要扩容新增一个BE节点,扩容提速99%(由原本的一周时间降低至5分钟),降低整体运维成本。
  • 稳定性和高可用: 多warehouse资源隔离避免业务间资源争抢 。支持跨可用区容灾灾难级故障时具有逃逸能力。灾难级故障RTO(服务中断容忍)≤31分钟,RPO(数据丢失容忍)=0,增强集群的稳定性和高可用。
  • 性能提升: TP99降低40%(由9.7s降低至3.8s);TP95降低45%(由3.1s降低至1.6s);每日慢响应下降40%(100分钟到60分钟)
  • 数据工具:保证数据安全、数据质量,支持持久的数据资产治理。
  • 技术架构升级:架构升级OpenLake方案,存算分离数仓StarRocks+流式数据湖Paimon,面向未来的开放式可扩展架构,以低成本+高稳定性+高性能承接未来PB级项目《望月》。


DLF提供的其他价值

  • 统一元数据和数据权限管理,提升安全,简化管理过程
  • 统一元数据,引擎平权做数据处理
  • 统一权限,一次数据授权操作,多引擎围绕授权使用
  • 降低Paimon维护成本,提升读性能
  • 支持自适应compaction,提升查询性能、降低存储成本、简化运维
  • 支持自适应bucket分配,不需做bucket数量分配及bucket数量调整等复杂操作,降低维护成本
  • 简化Snapshot、Partition、orphanFile管理,降低使用成本
  • 一套catalog管理全模态数据,提供tables和files两层接口
  • 一套Catalog下支持Paimon表、Iceberg表、Lance表、Object表及相关生态;
  • 一套catalog下支持Parquet、CSV、ORC等类Hive表,即Format Table。
目录
相关文章
|
4月前
|
存储 人工智能 分布式计算
阿里云DLF 3.0:面向AI时代的智能全模态湖仓管理平台
在2025年云栖大会,阿里云发布DLF 3.0,升级为面向AI时代的智能全模态湖仓管理平台。支持结构化与非结构化数据统一管理,实现秒级实时处理、智能存储优化与细粒度安全控制,助力企业高效构建Data+AI基础设施。
1676 3
|
存储 分布式计算 物联网
美的楼宇科技基于阿里云 EMR Serverless Spark 构建 LakeHouse 湖仓数据平台
美的楼宇科技基于阿里云 EMR Serverless Spark 建设 IoT 数据平台,实现了数据与 AI 技术的有效融合,解决了美的楼宇科技设备数据量庞大且持续增长、数据半结构化、数据价值缺乏深度挖掘的痛点问题。并结合 EMR Serverless StarRocks 搭建了 Lakehouse 平台,最终实现不同场景下整体性能提升50%以上,同时综合成本下降30%。
962 58
|
5月前
|
存储 分布式计算 运维
云栖实录|驰骋在数据洪流上:Flink+Hologres驱动零跑科技实时计算的应用与实践
零跑科技基于Flink构建一体化实时计算平台,应对智能网联汽车海量数据挑战。从车机信号实时分析到故障诊断,实现分钟级向秒级跃迁,提升性能3-5倍,降低存储成本。通过Flink+Hologres+MaxCompute技术栈,打造高效、稳定、可扩展的实时数仓,支撑100万台量产车背后的数据驱动决策,并迈向流批一体与AI融合的未来架构。
409 3
云栖实录|驰骋在数据洪流上:Flink+Hologres驱动零跑科技实时计算的应用与实践
|
1月前
|
存储 安全
|
1月前
|
存储 分布式计算 OLAP
数仓-湖仓-湖流,人力家基于阿里云OpenLake架构演进与思考
人力家资深数据工程师石玉阳(Thorne),Flink-CDC Contributor,分享其公司湖仓一体实践:以Paimon为数据基座、StarRocks为OLAP引擎、Flink+Fluss实现湖流融合,打通离线/实时/增量计算,支持多模态与DATA+AI演进,构建开放、统一、可持续的大数据架构。(239字)
176 2
|
6月前
|
存储 JSON 数据处理
Flink基于Paimon的实时湖仓解决方案的演进
本文源自Apache CommunityOverCode Asia 2025,阿里云专家苏轩楠分享Flink与Paimon构建实时湖仓的演进实践。深度解析Variant数据类型、Lookup Join优化等关键技术,提升半结构化数据处理效率与系统可扩展性,推动实时湖仓在生产环境的高效落地。
811 1
Flink基于Paimon的实时湖仓解决方案的演进
|
11月前
|
存储 消息中间件 分布式计算
Hologres实时数仓在B站游戏的建设与实践
本文介绍了B站游戏业务中实时数据仓库的构建与优化过程。为满足日益增长的数据实时性需求,采用了Hologres作为核心组件优化传统Lambda架构,实现了存储层面的流批一体化及离线-实时数据的无缝衔接。文章详细描述了架构选型、分层设计(ODS、DWD、DIM、ADS)及关键技术挑战的解决方法,如高QPS点查、数据乱序重写等。目前,该实时数仓已广泛应用于运营分析、广告投放等多个场景,并计划进一步完善实时指标体系、扩展明细层应用及研发数据实时解析能力。
Hologres实时数仓在B站游戏的建设与实践
|
7月前
|
存储 缓存 Apache
StarRocks+Paimon 落地阿里日志采集:万亿级实时数据秒级查询
A+流量分析平台是阿里集团统一的全域流量数据分析平台,致力于通过埋点、采集、计算构建流量数据闭环,助力业务提升流量转化。面对万亿级日志数据带来的写入与查询挑战,平台采用Flink+Paimon+StarRocks技术方案,实现高吞吐写入与秒级查询,优化存储成本与扩展性,提升日志分析效率。
1006 1
|
6月前
|
存储 人工智能 监控
淘宝闪购基于Flink&Paimon的Lakehouse生产实践:从实时数仓到湖仓一体化的演进之路
本文整理自淘宝闪购(饿了么)大数据架构师王沛斌在 Flink Forward Asia 2025 上海站的分享,深度解析其基于 Apache Flink 与 Paimon 的 Lakehouse 架构演进与落地实践,涵盖实时数仓发展、技术选型、平台建设及未来展望。
1248 0
淘宝闪购基于Flink&Paimon的Lakehouse生产实践:从实时数仓到湖仓一体化的演进之路
|
8月前
|
分布式计算 Serverless OLAP
实时数仓Hologres V3.1版本发布,Serverless型实例从零开始构建OLAP系统
Hologres推出Serverless型实例,支持按需计费、无需独享资源,适合新业务探索分析。高性能查询内表及MaxCompute/OSS外表,弹性扩展至512CU,性能媲美主流开源产品。新增Dynamic Table升级、直读架构优化及ChatBI解决方案,助力高效数据分析。
实时数仓Hologres V3.1版本发布,Serverless型实例从零开始构建OLAP系统