HBase助力点触科技构建实时计算和数据仓库解决方案

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云原生数据库 PolarDB PostgreSQL 版,标准版 2核4GB 50GB
简介: 百万量级TPS;10倍性能提升

点触科技业务背景

厦门点触科技股份有限公司,新三板挂牌企业(股票代码:870702),成立于2013年,是一家以历史养成类游戏研发与发行为主,专业从事手机游戏的策划、研发制作、商业化运营的创新型发展公司。目前已经成功研发出《叫我万岁爷》、《我在大清当皇帝》、《Game of Sultan》、《皇上吉祥》等多款历史题材类游戏并深受玩家喜爱。覆盖了全国及港台、东南亚等部分海外市场。

点触科技业务挑战

1、某些恶意用户利用信用卡或者别的漏洞刷单(代充),系统需要实时查询多种日志(比如登入日志,充值日志等)从而识别并拦截游戏代充订单,才能避免损失代充订单的钱。
2、随着业务快速发展,用户行为日志快速增长,需要从海量的点击流日志和激活日志中挖掘数据的价值,比如广告转化率、激活率,每安装用户成本等等。
3、原来使用Greenplum做实时计算和统计分析。但是Greenplum存在以下缺陷,难以应对业务的快速发展:

1)Greenplum架构难以应对日益复杂的计算任务;
2)Greenplum的单表分区数目有限制,同时多级分区支持不够友好,不适用单表数据量比较大且需要永久保存的日志,如果单个分区表数据量比较大的时候查询性能无法满足业务性能需求;
3)Greenplum扩容时由于数据要重分布会比较慢;
4)Greenplum不适合处理非结构化的数据。

点触科技基于HBase SQL服务(Phoenix)+ Spark服务解决方案

选择阿里云HBase SQL服务(Phoenix)+ Spark服务构建实时计算和数据仓库解决方案。
1、HBase SQL提供在线查询能力、Spark提供流式处理、复杂分析等能力来满足业务需求;
2、梳理业务数据,对数据进行分层存储在HBase SQL(Phoenix)+Spark中:

1)操作数据层:手游客户端、用户中心、广告监测、游戏服务器等产生的原始日志;
2)数据明细层:【操作数据层】使用Spark Streaming等进行数据去噪、去重、字段规范后写入HBase SQL服务,也可以直接使用JDBC写入数据;
3)数据汇总层:【数据明细层】的数据可以定期(按天或者按小时)ETL(比如关联维表、过滤、聚合)后写入到【数据汇总层】。数据汇总层的数据供后续的复杂分析;
4)应用数据层:直接对外提供数据查询服务(基于HBase SQL服务)支撑上层大数据风控、广告推荐、海量数据精细化运营;【数据汇总层】的数据经过处理后会把结果数据写入到HBase SQL中对外提供查询服务。
image.jpeg

使用HBase SQL服务(Phoenix)+ Spark服务为点触科技带来的价值

1、毫秒级识别拦截代充订单。HBase SQL(Phoenix) 高并发实时读写,TPS可达百万量级,并发十万量级,毫秒级简单查询;
2、Spark优秀的计算能力。同样作业Spark基于列式存储Parquet的分析在数据量大的情况下比Greenplum集群有10倍的性能提升。支撑了广告转化率、激活率,安装用户成本,数据驱动精细化运营等业务计算需求;
3、一站式解决方案。Spark服务原生支持通过SQL读取HBase SQL(Phoenix)数据能力,具备列裁剪、谓词下推、分区裁剪等优化;高效地把HBase SQL在线库的数据ETL后归档到Spark数据仓库;
4、聚焦业务。全托管的Spark服务保证了作业运行的稳定性,释放运维人力,同时数据工作台降低了Spark作业管理成本。

目录
相关文章
|
6月前
|
缓存 JSON 关系型数据库
MySQL 查询优化分析 - 常用分析方法
本文介绍了MySQL查询优化分析的常用方法EXPLAIN、Optimizer Trace、Profiling和常用监控指标。
|
Cloud Native 关系型数据库 新能源
|
存储 人工智能 运维
阿里云助力东软集团让数字时代运维系统“灵动”起来
2020年,东软集团与阿里云原生多模数据库Lindorm达成合作,围绕运营商、政务云和汽车等行业的新一代数字信息系统IT运维场景,在海量监控数据上存在存储、分析的痛点,进一步扩展应用智能运维产品RealSight APM和云管理产品SaCa Aclome能力,解决了大数据场景下的IT运维难题。
阿里云助力东软集团让数字时代运维系统“灵动”起来
|
Cloud Native 关系型数据库 分布式数据库
《口袋奇兵》开发商引入阿里云PolarDB数据库 IT成本降幅达50%
3月2日,游戏厂商江娱互动日前通过引入阿里云PolarDB云原生数据库,顺畅支撑旗下《口袋奇兵》等游戏产品日均5亿次用户请求
962 0
《口袋奇兵》开发商引入阿里云PolarDB数据库 IT成本降幅达50%
|
SQL 运维 分布式计算
阿里云数据库助力完美日记深度优化数据库架构应对半年内50倍的流量增长
业务/技术亮点:高峰业务流量比半年前提高了50倍;比半年前的系统吞吐提升了50倍
3547 0
阿里云数据库助力完美日记深度优化数据库架构应对半年内50倍的流量增长
|
缓存 运维 NoSQL
清新明快的修仙之旅:阿里云数据库MongoDB版助力吉比特《一念逍遥》游戏斩获千万玩家,运营效率成倍增长
阿里云数据库MongoDB版的强大性能和灵活拓展能力帮助我们提高了《一念逍遥》的开发和运维效率,为玩家带来无中断的‘修仙’体验,而我相信这仅仅是阿里云MongoDB一小部分的能量。
870 0
|
SQL 运维 Cloud Native
Rela携手阿里云DTS 快速无缝迁移TiDB到PolarDB
杭州热澜科技有限公司主营热拉Rela APP,Rela是一款全球范围内的多元女性交友APP,通过Rela可以快捷、简便地寻找到位置附近与自己志趣相投的女性朋友,并将网络关系拓展为线下关系,用户也可以在社区中分享交流遇到的生活、情感、LGBT等问题。目前总用户量已超过1200万,覆盖国内和海外东南亚及美国的华人区域。
2001 0
Rela携手阿里云DTS  快速无缝迁移TiDB到PolarDB
|
存储 运维 Cloud Native
|
存储 运维 监控
阿里云原生多模数据库Lindorm联合东软云科技 赋能车联网数字化运营运维创新升级
阿里云原生多模数据库Lindorm与东软云科技推出联合解决方案,共建面向未来的车联网数字化运营运维云平台。目前,该联合解决方案已在东软睿驰、江铃汽车、长城汽车等客户中得到广泛应用和实践落地。
1030 0
阿里云原生多模数据库Lindorm联合东软云科技 赋能车联网数字化运营运维创新升级