从BAT看企业构建大数据体系的六层级

简介:

本文将企业大数据体系的构建分为六个层级,但并非是线性过程,每个层级之间或有基础关系,但并不是说一定要逐层构建。例如创业型公司,在缺乏数据研发实力的时候,多数会借助第三方平台进行数据上报与分析。

下面一张图,是本文的精华概括,后面一一展开与大家探讨。

0.jpg


一、数据基础平台
基础的数据平台建设工作,包含数据平台建设,数据规范,数据仓库、产品数据规范,产品ID,用户ID,统一SDK等。

很多公司的数据无法有效利用,就是缺乏统一规范,产品数据上报任由开发按照自己的理解和习惯上报,没有标准化的SDK和上报协议,并且数据散落在各个部门产品的服务器,无法构建结构化的数据仓库。

做数据平台的架构,很多人会理解为高大上的技术活,其实整个数据平台价值的体现,需要公司各个部门的配合,例如关键数据指标体系的建立,需要从各个部门业务指标进行提炼,并得到业务部门认可。常见的关键指标有:DAU、PCU、WAU、MAU、按天留存率(1-30日留存)、累计留存率(7日、14日、30日累计留存率),新增用户,有效新增用户,活跃转化率,付费转化率,收入指标,ARPU人均收入,渠道效果数据等。

下图是腾讯和阿里的数据平台架构

091201nna29p0bbajb2zhp.jpg


阿里大数据业务架构


2.jpg


阿里云梯分布式计算平台整体架构:

3.jpg


二、数据报表与可视化
在第一层级中,进行数据指标体系规范,统一定义,统一维度区分,就可以很方便的进行标准化可配置数据报表设计,直观的可视化输出设计,包括行为、收入、性能、质量等多种数据类别。

在PPT中以友盟、迅雷、百度、腾讯等公司的数据报表体系进行详细讲解。

腾讯数据门户

4.jpg


阿里数据地图

5.jpg


三、产品与运营分析
在建立数据平台和可视化基础上,对已有的用户行为、收入数据等进行各种分析,输出日报、周报、月报、各种专题分析报告。常见的数据分析工作如下:
1. A/B TEST进行产品分析优化;
2. 运用漏斗模型进行用户触达分析,如TIPS、广告等曝光到活跃的转化;
3. 收入效果监控与分析,包含付费转化率、渠道效果数据等;
4. 业务长期健康度分析,例如从用户流动模型、产品生命周期分析产品成长性和健康度;
5. 营销推广活动的实时反馈;


用户画像也是常见的数据分析方式,包括用户如性别、年龄、行为、收入、兴趣爱好、消费行为、上网行为、渠道偏好、行为喜好、生活轨迹与位置等,反映用户各种特征,以达到全面的了解用户,针对性的为用户提供个性化服务的目的,通常每半年做一次用户画像的专题分析。

下图是常见的数据分析思路
6.jpg

常用分析工具:EXCLE,SPSS,SAS,Enterprise Miner,Clementine,STATISTICA。个人用的比较多的是:EXCEL和SPSS。

下图是SPSS常用的数据分析与挖掘方法

7.jpg


四、精细化运营平台
基于数据基础上搭建的精细化运营平台,主要的平台逻辑多数是进行用户细分,商品和服务细分,通过多种推荐算法的组合优化进行商品和服务的个性化推荐。另外还有针对不同产品生命周期,用户生命周期构建的产品数据运营体系。

8.jpg


五、数据产品
广义的数据产品非常多,例如搜索类,天气预报类等等。这里主要讲狭义的数据产品,以BAT三家公司的数据产品为例进行分享。


腾讯:广点通、信鸽
阿里:数据魔方、淘宝情报、淘宝指数、在云端
百度:百度预测、百度统计、百度指数、百度司南、百度精算

截取几张PPT如下:

9.jpg


10.jpg


11.jpg


12.jpg


六、战略分析与决策
战略分析与决策层,更多的是跟很多传统的战略分析、经营分析层面的方法论相似,最大的差异是数据来自于大数据。

有很多企业错误的把“业务运营监控层”和“用户/客户体验优化层”做的事情放在经营分析或者战略分析层来做。傅志华认为“业务运营监控层”和“用户/客户体验优化层”更多的是通过机器、算法和数据产品来实现的,“战略分析”、“经营分析”更多的是人来实现。很多企业把机器能做的事情交给了人来做,这样导致发现问题的效率较低。

建议是,能用机器做的事情尽量用机器来做好“业务运营监控层”和“用户/客户体验优化层”,在此基础上让人来做人类更擅长的经验分析和战略判断。

在变化极快的互联网领域,在业务的战略方向选择上,数据很难预测业务的大发展方向,如果有人说微信这个大方向是通过数据挖掘和分析研究出来,估计产品经理们会笑了。从本质上来说,数据在精细化营销和运营中能起到比较好的作用,但在产品策划、广告创意等创意性的事情上,起到的作用较小。但一旦产品创意出来,就可以通过灰度测试,数据验证效果了。




原文发布时间为:2014-07-01

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
存储 大数据 数据处理
PHP 与大数据:构建高效数据处理系统
传统的数据处理系统往往难以应对大规模数据的处理需求,而PHP作为一种常用的服务器端脚本语言,在数据处理方面也有其独特的优势。本文将探讨如何利用PHP构建高效的大数据处理系统,结合实际案例分析其应用场景及优势所在。
20 2
|
5月前
|
SQL Oracle 物联网
助力工业物联网,工业大数据之数仓维度层DWS层构建【十二】
助力工业物联网,工业大数据之数仓维度层DWS层构建【十二】
51 0
|
1月前
|
SQL 分布式计算 Hadoop
利用Hive与Hadoop构建大数据仓库:从零到一
【4月更文挑战第7天】本文介绍了如何使用Apache Hive与Hadoop构建大数据仓库。Hadoop的HDFS和YARN提供分布式存储和资源管理,而Hive作为基于Hadoop的数据仓库系统,通过HiveQL简化大数据查询。构建过程包括设置Hadoop集群、安装配置Hive、数据导入与管理、查询分析以及ETL与调度。大数据仓库的应用场景包括海量数据存储、离线分析、数据服务化和数据湖构建,为企业决策和创新提供支持。
89 1
|
2月前
|
SQL 存储 监控
构建端到端的开源现代数据平台
构建端到端的开源现代数据平台
61 4
|
2月前
|
人工智能 DataWorks 数据可视化
心动基于阿里云DataWorks构建游戏行业通用大数据模型
心动游戏在阿里云上构建云原生大数据平台,基于DataWorks构建行业通用大数据模型,如玩家、产品、SDK、事件、发行等,满足各种不同的分析型应用的要求,如AI场景、风控场景、数据分析场景等。
346 1
|
3月前
|
存储 数据可视化 JavaScript
基于Echarts构建大数据招聘岗位数据可视化大屏
基于Echarts构建大数据招聘岗位数据可视化大屏
97 0
|
5月前
|
SQL 存储 分布式计算
助力工业物联网,工业大数据之数仓事实层DWB层构建【十七】
助力工业物联网,工业大数据之数仓事实层DWB层构建【十七】
39 0
助力工业物联网,工业大数据之数仓事实层DWB层构建【十七】
|
15天前
|
分布式计算 大数据 BI
MaxCompute产品使用合集之MaxCompute项目的数据是否可以被接入到阿里云的Quick BI中
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
15天前
|
SQL 分布式计算 大数据
MaxCompute产品使用合集之怎样可以将大数据计算MaxCompute表的数据可以导出为本地文件
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
14天前
|
分布式计算 DataWorks 数据库
DataWorks操作报错合集之DataWorks使用数据集成整库全增量同步oceanbase数据到odps的时候,遇到报错,该怎么处理
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
25 0

热门文章

最新文章