HBase助力点触科技构建实时计算和数据仓库解决方案

简介: 百万量级TPS;10倍性能提升

点触科技业务背景

厦门点触科技股份有限公司,新三板挂牌企业(股票代码:870702),成立于2013年,是一家以历史养成类游戏研发与发行为主,专业从事手机游戏的策划、研发制作、商业化运营的创新型发展公司。目前已经成功研发出《叫我万岁爷》、《我在大清当皇帝》、《Game of Sultan》、《皇上吉祥》等多款历史题材类游戏并深受玩家喜爱。覆盖了全国及港台、东南亚等部分海外市场。

点触科技业务挑战

1、某些恶意用户利用信用卡或者别的漏洞刷单(代充),系统需要实时查询多种日志(比如登入日志,充值日志等)从而识别并拦截游戏代充订单,才能避免损失代充订单的钱。
2、随着业务快速发展,用户行为日志快速增长,需要从海量的点击流日志和激活日志中挖掘数据的价值,比如广告转化率、激活率,每安装用户成本等等。
3、原来使用Greenplum做实时计算和统计分析。但是Greenplum存在以下缺陷,难以应对业务的快速发展:

1)Greenplum架构难以应对日益复杂的计算任务;
2)Greenplum的单表分区数目有限制,同时多级分区支持不够友好,不适用单表数据量比较大且需要永久保存的日志,如果单个分区表数据量比较大的时候查询性能无法满足业务性能需求;
3)Greenplum扩容时由于数据要重分布会比较慢;
4)Greenplum不适合处理非结构化的数据。

点触科技基于HBase SQL服务(Phoenix)+ Spark服务解决方案

选择阿里云HBase SQL服务(Phoenix)+ Spark服务构建实时计算和数据仓库解决方案。
1、HBase SQL提供在线查询能力、Spark提供流式处理、复杂分析等能力来满足业务需求;
2、梳理业务数据,对数据进行分层存储在HBase SQL(Phoenix)+Spark中:

1)操作数据层:手游客户端、用户中心、广告监测、游戏服务器等产生的原始日志;
2)数据明细层:【操作数据层】使用Spark Streaming等进行数据去噪、去重、字段规范后写入HBase SQL服务,也可以直接使用JDBC写入数据;
3)数据汇总层:【数据明细层】的数据可以定期(按天或者按小时)ETL(比如关联维表、过滤、聚合)后写入到【数据汇总层】。数据汇总层的数据供后续的复杂分析;
4)应用数据层:直接对外提供数据查询服务(基于HBase SQL服务)支撑上层大数据风控、广告推荐、海量数据精细化运营;【数据汇总层】的数据经过处理后会把结果数据写入到HBase SQL中对外提供查询服务。
image.jpeg

使用HBase SQL服务(Phoenix)+ Spark服务为点触科技带来的价值

1、毫秒级识别拦截代充订单。HBase SQL(Phoenix) 高并发实时读写,TPS可达百万量级,并发十万量级,毫秒级简单查询;
2、Spark优秀的计算能力。同样作业Spark基于列式存储Parquet的分析在数据量大的情况下比Greenplum集群有10倍的性能提升。支撑了广告转化率、激活率,安装用户成本,数据驱动精细化运营等业务计算需求;
3、一站式解决方案。Spark服务原生支持通过SQL读取HBase SQL(Phoenix)数据能力,具备列裁剪、谓词下推、分区裁剪等优化;高效地把HBase SQL在线库的数据ETL后归档到Spark数据仓库;
4、聚焦业务。全托管的Spark服务保证了作业运行的稳定性,释放运维人力,同时数据工作台降低了Spark作业管理成本。

目录
相关文章
|
1月前
|
存储 弹性计算 运维
阿里云热门云产品大盘点,企业上云怎么选服务器,低成本上云实操攻略
在数字化转型持续推进的阶段,越来越多的企业开始把业务、数据、应用迁移至云上。传统自建机房模式需要一次性投入大量资金采购硬件设备,还要承担机房运维、电力、网络维护、硬件老化更换等持续成本,对于中小企业来说,资金压力巨大,资源利用率很难做到精准匹配。很多企业在初次上云的时候,面对品类繁多的阿里云服务器与配套云产品,很容易陷入选型误区,要么配置过高造成资源闲置、账单居高不下,要么配置不足导致业务卡顿,同时面对各类活动优惠、代金券、节省计划、限时秒杀等权益,分不清哪些权益适配自身业务,最终没能拿到理想的采购价格。本文将全面梳理阿里云热门服务器品类、配套云产品能力,拆解各类上云活动规则,分享可落地的省钱
271 7
|
1月前
|
人工智能 弹性计算 测试技术
阿里云轻量应用服务器38元1年什么配置?抢购入口在哪?没抢到怎么办?
本文围绕阿里云38元/年轻量应用服务器抢购活动展开完整解析,明确其2核2G、200M峰值带宽的配置细节、每日两场的抢购时段与镜像选择方案,梳理了抢购资格、入口与提升成功率的实操技巧。同时补充99元ECS经济型e实例、199元通用算力型u1实例两大高性价比替代方案,覆盖新老用户不同上云需求,为用户提供从限时抢购到长期稳定用云的完整选型参考。
|
14天前
|
人工智能 安全 API
阿里云百炼 API 保姆级教程:免费 Token 领取、API Key 生成、环境配置与接口调用实战
对于零基础的AI开发者、技术爱好者和小型开发团队来说,低成本、低门槛调用主流大模型接口,是开启AI项目原型开发的必经之路。百炼大模型服务平台汇集了百余款主流大模型,面向新用户提供大规模免费推理额度,不需要预先充值,即可完成文本生成、逻辑推理、代码编写、多模态解析等各类开发验证工作。很多新手在初次接触平台时,常常遇到不清楚免费额度规则、不知道如何生成API‑Key、环境配置错误、调用接口持续报错等一系列问题。
385 0
|
18天前
|
缓存 JSON 数据格式
2026 年 Qwen3.7-Plus 开发实操文档:看图写代码实现原理,Vibe Coding、缓存策略与 Token Plan 计费教程
Qwen3.7‑Plus是千问系列均衡型多模态基座,百万Token上下文窗口,原生支持图文视频输入,具备Vibe Coding截图转代码、中等复杂度混合模态Agent、长文档处理能力,在推理质量与调用成本之间取得很好平衡,适合图文知识库、前端代码辅助、轻量视觉智能体、中等难度长文档分析业务。
129 1
|
4月前
|
人工智能 运维 自然语言处理
阿里云Agent Infra香港首秀:170+机构到场,1700+人次互动
2025年5月21日,阿里云应邀出席由香港生产力促进局(HKPC)主办的"Innovating Public Services, Driving the AI Transformation" 大型人工智能主题盛会。本次活动汇聚香港政产学研各界力量,聚焦人工智能技术在政府治理、社会服务及产业转型中的创新应用。阿里云作为亚太地区领先的云计算与人工智能全栈服务商,深度参与本次活动,通过展台展示、技术分享及高层对话等多种形式,全面呈现阿里云在Agent Infra及智能体应用领域的最新成果,进一步夯实了阿里云在香港及粤港澳大湾区市场的影响力。
506 2
|
人工智能 云计算
和五所高校一起,我们共同打造了一门AI课程!丨云工开物
9月1日,阿里云联合多所高校推出的「动手学AI:人工智能通识与实践」课程正式开放。课程涵盖理论与实践,支持多专业定制,助力高校AI人才培养。
|
12月前
|
人工智能
产教融合,实践创新|浙江大学AI DAY 首场活动成功举办!
浙江大学联合阿里云举办首届AI DAY,涵盖人工智能通识教育研讨会与“零基础玩转大模型”实训营,推动AI与交叉学科人才培养,促进产教融合,提升师生AI素养与实践能力。
|
机器学习/深度学习 人工智能 自然语言处理
【AI系统】知识蒸馏原理
本文深入解析知识蒸馏(Knowledge Distillation, KD),一种将大型教师模型的知识高效转移至小型学生模型的技术,旨在减少模型复杂度和计算开销,同时保持高性能。文章涵盖知识蒸馏的基本原理、不同类型的知识(如响应、特征、关系知识)、蒸馏方式(离线、在线、自蒸馏)及Hinton的经典算法,为读者提供全面的理解。
3184 2
【AI系统】知识蒸馏原理
|
人工智能 Cloud Native 大数据
如何让芸芸众“声”更抓耳?喜马拉雅携手阿里云给出答案
以科技赋能文化的喜马拉雅,通过AI、大数据等技术的应用,不断创新产品与服务,推动了以音频为特色的“耳朵经济”。
3126 0
如何让芸芸众“声”更抓耳?喜马拉雅携手阿里云给出答案
|
算法 程序员 双11
优秀开发者之不鸣则已,一鸣惊人的黑马程序员
不鸣则已一鸣惊人的黑马大使
7950 2

热门文章

最新文章