诗悦游戏基于DLF与EMR StarRocks降本38%

简介: 诗悦网络(2014年成立)是千人规模的研运一体手游公司,代表作有《长安幻想》《永夜降临》等。为支撑PB级开放世界新游《望月》,其原半托管StarRocks数据平台面临高成本、难运维、稳定性差等痛点。阿里云以Serverless StarRocks+DLF Paimon数据湖方案实现存算分离、多租户隔离与全托管运维,总成本降38%,查询性能提升40%+,RPO=0,全面赋能实时/近实时/离线场景。

客户背景

客户简介

诗悦网络,成立于2014年,是专注于精品手游研发和全球化发行的研运一体公司,团队规模超千人。以“精品游戏探索者”为研发理念,以“给玩家以快乐,给团队以成长”为核心价值观。诗悦陆续推出了多款高人气的精品游戏,包括《长安幻想》、《永夜降临:复苏》、《最后的原始人》、《云上城之歌》、《斗罗大陆:武魂觉醒》、《轩辕剑:剑之源》、《闪烁之光》、《仙凡幻想》、《仙灵觉醒》等,产品类型涵盖二次元、回合制、ARPG、放置卡牌、ACT等。

客户行业

游戏行业

客户业务场景

用户画像、报表、指标平台

客户痛点及面临的挑战

诗悦游戏团队原基于半托管Starrocks构建数据平台(赤霄),本次架构升级希望解决现有高成本、难运维、稳定性差等诸多痛点的同时做稳定性、安全性、性能、成本等多方面的升级,以此来支撑未来将要发布的开放世界游戏PB级项目《望月》。

技术层面核心痛点

  • 原架构存算一体,数据三副本存储在本地盘上存储成本高。
  • 原Starrocks半托管形态,运维成本高,每次扩容/升级投入人力高。
  • 原架构在不同业务间缺少资源隔离能力,造成资源争抢现象,使得集群稳定性差。
  • 目前架构可扩展性较差,难以支撑未来《望月》项目,急需做架构升级,应对PB级数据大规模存储和计算。

业务层面核心痛点

  • 业务侧查询响应慢。
  • 由于业务的不断发展对数据的准确性、实时性要求更高。


阿里云解决方案

产品: DLF、 Serverless Spark、Flink、Serverless StarRocks、DataWorks

技术:

  • 数仓层面:阿里云ServerlessStarrocks替换半托管StarRocks。存算分离,支持多计算组资源隔离、支持可视化的缓存管理等。以更高的性能支持赤霄平台稳定运行。
  • 数据湖层面:支持数据流式入湖,做流式ETL。使用DLF Paimon湖格式,支持多引擎访问,Spark支持大规模数据ETL,为未来PB级项目《望月》奠定基础。

业务:

  • 实时业务:Flink—>Serverless StarRocks存算分离
  • 近实时业务:Flink/DataWorks数据集成—>DLF Paimon—>StarRocks存算分离
  • 离线业务:DataWorks数据集成—>DLF Paimon—>Spark

方案架构图:

解决方案提供的核心价值

  • 成本降低: 总成本降低38%。计算性能提升将计算资源下降17%。采用存算分离架构将存储由三副本降低为单副本,降本66%。
  • 简化运维:Serverless StarRocks全托管免运维,原集群每三个月需要扩容新增一个BE节点,扩容提速99%(由原本的一周时间降低至5分钟),降低整体运维成本。
  • 稳定性和高可用: 多warehouse资源隔离避免业务间资源争抢 。支持跨可用区容灾灾难级故障时具有逃逸能力。灾难级故障RTO(服务中断容忍)≤31分钟,RPO(数据丢失容忍)=0,增强集群的稳定性和高可用。
  • 性能提升: TP99降低40%(由9.7s降低至3.8s);TP95降低45%(由3.1s降低至1.6s);每日慢响应下降40%(100分钟到60分钟)
  • 数据工具:保证数据安全、数据质量,支持持久的数据资产治理。
  • 技术架构升级:架构升级OpenLake方案,存算分离数仓StarRocks+流式数据湖Paimon,面向未来的开放式可扩展架构,以低成本+高稳定性+高性能承接未来PB级项目《望月》。


DLF提供的其他价值

  • 统一元数据和数据权限管理,提升安全,简化管理过程
  • 统一元数据,引擎平权做数据处理
  • 统一权限,一次数据授权操作,多引擎围绕授权使用
  • 降低Paimon维护成本,提升读性能
  • 支持自适应compaction,提升查询性能、降低存储成本、简化运维
  • 支持自适应bucket分配,不需做bucket数量分配及bucket数量调整等复杂操作,降低维护成本
  • 简化Snapshot、Partition、orphanFile管理,降低使用成本
  • 一套catalog管理全模态数据,提供tables和files两层接口
  • 一套Catalog下支持Paimon表、Iceberg表、Lance表、Object表及相关生态;
  • 一套catalog下支持Parquet、CSV、ORC等类Hive表,即Format Table。
目录
相关文章
|
6月前
|
存储 人工智能 分布式计算
阿里云DLF 3.0:面向AI时代的智能全模态湖仓管理平台
在2025年云栖大会,阿里云发布DLF 3.0,升级为面向AI时代的智能全模态湖仓管理平台。支持结构化与非结构化数据统一管理,实现秒级实时处理、智能存储优化与细粒度安全控制,助力企业高效构建Data+AI基础设施。
2121 3
|
3月前
|
存储 分布式计算 OLAP
数仓-湖仓-湖流,人力家基于阿里云OpenLake架构演进与思考
人力家资深数据工程师石玉阳(Thorne),Flink-CDC Contributor,分享其公司湖仓一体实践:以Paimon为数据基座、StarRocks为OLAP引擎、Flink+Fluss实现湖流融合,打通离线/实时/增量计算,支持多模态与DATA+AI演进,构建开放、统一、可持续的大数据架构。(239字)
355 2
|
7月前
|
人工智能 文字识别 监控
|
1月前
|
SQL 分布式计算 Serverless
鹰角网络:EMR Serverless Spark 在《明日方舟》游戏业务的应用
鹰角网络为应对游戏业务高频活动带来的数据潮汐、资源弹性及稳定性需求,采用阿里云 EMR Serverless Spark 构建云原生大数据架构,迁移后实现计算加速50%,核心链路产出时间提前1.5h,研发效率和稳定性显著提升!
|
3月前
|
存储 分布式计算 数据建模
淘宝闪购基于阿里云 EMR Serverless Spark&Paimon的湖仓实践:超大规模下的特征生产&多维分析双提效
本文介绍阿里云 Serverless Spark + Paimon 在淘宝闪购大数据湖仓场景的应用。
|
7月前
|
存储 分布式计算 运维
云栖实录|驰骋在数据洪流上:Flink+Hologres驱动零跑科技实时计算的应用与实践
零跑科技基于Flink构建一体化实时计算平台,应对智能网联汽车海量数据挑战。从车机信号实时分析到故障诊断,实现分钟级向秒级跃迁,提升性能3-5倍,降低存储成本。通过Flink+Hologres+MaxCompute技术栈,打造高效、稳定、可扩展的实时数仓,支撑100万台量产车背后的数据驱动决策,并迈向流批一体与AI融合的未来架构。
572 3
云栖实录|驰骋在数据洪流上:Flink+Hologres驱动零跑科技实时计算的应用与实践
|
6月前
|
存储 SQL 缓存
Delta Join:为超大规模流处理实现计算与历史数据解耦
Delta Join(FLIP-486)是Flink流式Join的范式革新,通过将历史数据存储与计算解耦,实现按需查询外部存储(如Fluss、Paimon),避免状态无限增长。它解决了传统Join在高基数场景下的状态爆炸问题,显著降低资源消耗:状态减少50TB,成本降10倍,Checkpoint从小时级缩短至秒级,恢复速度提升87%。兼容标准SQL,自动优化转换,适用于海量数据实时关联场景,推动流处理迈向高效、稳定、可扩展的新阶段。
747 1
Delta Join:为超大规模流处理实现计算与历史数据解耦
|
8月前
|
存储 JSON 数据处理
Flink基于Paimon的实时湖仓解决方案的演进
本文源自Apache CommunityOverCode Asia 2025,阿里云专家苏轩楠分享Flink与Paimon构建实时湖仓的演进实践。深度解析Variant数据类型、Lookup Join优化等关键技术,提升半结构化数据处理效率与系统可扩展性,推动实时湖仓在生产环境的高效落地。
1096 1
Flink基于Paimon的实时湖仓解决方案的演进
|
存储 分布式计算 物联网
美的楼宇科技基于阿里云 EMR Serverless Spark 构建 LakeHouse 湖仓数据平台
美的楼宇科技基于阿里云 EMR Serverless Spark 建设 IoT 数据平台,实现了数据与 AI 技术的有效融合,解决了美的楼宇科技设备数据量庞大且持续增长、数据半结构化、数据价值缺乏深度挖掘的痛点问题。并结合 EMR Serverless StarRocks 搭建了 Lakehouse 平台,最终实现不同场景下整体性能提升50%以上,同时综合成本下降30%。
1093 58
|
SQL 存储 HIVE
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目
本文整理自鹰角网络大数据开发工程师朱正军在Flink Forward Asia 2024上的分享,主要涵盖四个方面:鹰角数据平台架构、数据湖选型、湖仓一体建设及未来展望。文章详细介绍了鹰角如何构建基于Paimon的数据湖,解决了Hudi入湖的痛点,并通过Trino引擎和Ranger权限管理实现高效的数据查询与管控。此外,还探讨了湖仓一体平台的落地效果及未来技术发展方向,包括Trino与Paimon的集成增强、StarRocks的应用以及Paimon全面替换Hive的计划。
1916 1
鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目