知识点!典型的工业企业大数据分析平台解决方案(含数据治理)

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。

    一、总体思路

     当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。工业企业大数据平台建设的总体思路是将现有PLC、MES、ERP、CRM、SRM、SCM、电子商务及财务共享服务等信息系统的业务数据,采用大数据技术,抽取到全业务数据中心,建立逻辑关联,整合成大数据仓库。从战略任务分解、经营计划执行和风险全周期管控,对集团的供应链服务数据、经营管理数据和生产过程数据,在全业务数据中心的支持下,建立基于业务流程数字化管控链条,打通现有信息系统的壁垒,让各级管理者和一线业务人员,能够及时获取历史数据和实时数据。想看到什么数据就能看到什么数据,实现数据按需服务,达到数据可视化,具备管理驾驶舱、报表和智能化查询的全业态数据一体化服务。

1ebe13817094cde0474df13ab1e4c425.png      二、方针和原则

     1、建设方针

     工业大数据分析平台按照“实用、可靠、先进、标准、开放”的方针进行建设。

     实用就是工业大数据分析平台的建设是要为经营管理提供洞察的,要具有实用价值;

     可靠就是工业大数据分析平台提供的数据必须是准确的,提供的分析依据是可靠的;

     先进就是工业大数据分析平台要具备前瞻性,可以快速响应未来数据形态变化的需求;

     标准就是工业大数据分析平台要实现数据、接口、服务、集成的标准化,具有可扩展性;

     开放就是工业大数据分析平台要能够管理和处理内部数据和外部数据,具有开放特性。

     2、建设原则

     工业大数据分析平台的建设原则是:

     整体规划、分步实施;

     统一标准、强化管理;

     信息公开、资源共享;

     需求主导、保障安全;

     自上而下设计,自下而上集成。

     三、核心功能

     工业大数据分析平台应具备以下核心功能:

     1、基于财务效益分析

     包括利润分析、利税分析、可利用资金分析、财务费用分析、管理费用分析等,能够实现与历史数据、与年度目标、与成员企业、与国内同行等多维度对比分析等。

     2、基于外部经济形势、行业形势与价格走势的分析

     包括宏观经济数据分析,行业数据分析、大宗原材料及产成品市场价格信息分析等,能够实现宏观经济数据、行业形势数据、价格走势数据采集和分析,在集团内形成集团管理部门和子分公司共享,实现支持决策的一体化。

     3、基于市场研判分析

     对企业产品、大宗原材料,在集团内设立市场研判信息采集源,通过电子问卷,定期(如每旬市场分析会召开之前)采集个人判断,并由系统自动汇总、通过观念整理,汇总群体判断,支持领导决策。

     4、基于内部经营的分析

     包括原材料、半成品、产成品的库存数量分析、结构分析、成本分析、潜盈亏分析,流动资金占用分析等,支持领导合理把控库存节奏。

     5、基于成本及毛利分析

     包括标准成本测算、订单成本测算、产品成本模拟测算、标准成本与实际成本差异分析。基于大宗原材库存价、当月采购价、当前市场价等不同价格条件下,不同品类产品的生产成本、毛利分析等。

     6、基于其它专业管理的决策分析

     包括生产管理、质量管理、安全管理、风险管理等。

6009a0cb7e0792151666c927716b548d.png       7、全业务数据视图

     工业大数据分析平台提供是自上而下的决策支持能力,能够为企业的决策者、各级管理者及业务负责人提供全业务数据视图以及全集团的管理视图。


5039a7ac1fc6250ee586bcf9b726a49e.png

     四、技术架构

     1、逻辑架构

     工业大数据分析平台的逻辑架构一般由数据源管理、数据存储管理、数据分析管理和数据展现四部分组成。

     数据源管理主要包括结构化的财务数据、生产数据、采购数据、销售数据、库存数据等,非结构化的文本、视频、图像等;流结构的过程数据、边缘计算数据等。

     数据存储管理主要包括ETL组件、元数据管理、大数据存储、ODS存储、主题数据存储、各种数据分析模型等。

     数据分析管理主要包括统计分析数据挖掘、报表及查询、OLAP分析、图形化及仪表盘、数据自助分析等;

     数据展现层主要是供集团领导、职能管理部门、二级板块、子分公司以及各级生产单元进行使用。

9fd32ae55fd0386df9a72fbd6bb5587e.png

     2、技术架构

     工业大数据分析平台的技术架构一般由数据源层、采集层、存储与计算层、数据服务层和应用层五部分组成。

     数据源层主要技术涉及关系型数据、文件、流数据以及企业外部数据源等。

     采集层主要技术涉及批量数据采集、流数据采集以及外部数据采集等。

     存储与计算层主要技术涉及批量计算的HIVE、Mahout、Graph、HDFS的技术、结构化数据库的MySql、oracle、DB2等技术以及在线分析的Srom、Spark Streaming等技术等。

     数据服务层主要技术涉及各类技术协议、数据协议、标签、数据模型管理等;

     应用层主要包括交互式探查、收益分析、风险分析、KPI等可视化决策支持技术。

865970ed2b8a345699dad7e8264d1bd2.png

     五、数据架构

     工业大数据分析平台的数据架构更偏重于数据架构中的逻辑模型设计。主要分为子分公司业务系统数据、子分公司BI应用数据架构、集团业务管理数据架构以及集团决策支持的数据架构。

5a441aea1405930413eddfc164874aa4.png

     六、可视化设计

     1、数据展示

     采用数据可视化技术,通过报表工具,将EDW和数据集市中的数据,根据业务逻辑和管理需求,进行多种样式的数据展现,并能实现数据挖掘功能。

2e81646012089ae9d62027699abcaebb.png

    2、管理驾驶舱

     管理驾驶舱打破数据隔离,实现指标分析及决策场景落地。通过详尽的指标体系,实时反映企业的运行状态,将采集的数据形象化、直观化、具体化。为高层管理层提供的“一站式”(One-Stop)决策支持服务。管理驾驶舱应至少提供144个指标,应包括企业所有的业务环节。具体的指标体系包括:财务、供应,库存、销售、生产、设备、人力资源、质量、物价等组成部分。

f8fef153dcef9a2b75be22da117648d0.png      

3、EXCEL表格报表

     报表功能是为企业中各层级管理人员所提供的个性化的报表服务。不同角色能轻易获得为各岗位、角色设置的常用报表,能获取其他被授权查看的预定义或即席分析型报表。同时还要实现主动式报表推送服务,可以定时和事件触发的方式将相关报表以邮件方式提供给用户。

701844cd33b1f88a2233c199a622e10f.png

     4、可视化仪表盘

     使用仪表盘数据可视化进行企业数据分析,报告业务状态为利益相关者提供了快速,高水平的视图,但有针对性的因果分析可以产生有价值的信息,可以实现底线改进。仪表盘数据可视化不仅仅是大数据和分析的任何其他入口点,它还为企业带来了价值,因为它们可以显示运营状态,销售结果以及众多其他公司事件的底层运营状况,让企业高管不需要花更多的时间在数据分析上。

d0c966bfa9bdded5ef97ef7aa5ad4922.png

    5、自助查询可视化

823925f92cb7234ace1933a13701473b.png

e5014950a0fb58e3c0047584bd0355ec.png

     七、大数据中心建设方案

     1、大数据中心规划咨询

     (1)必要性论证:大数据的开发利用应该提升到公司战略层面;数据治理应该上升到公司治理层面。

     (2)大数据中心规划:采用TOGAF方法论,前瞻技术和应用发展趋势,解读企业发展战略,将各业务条线的业务数据,按主题域建模,业务建模阶段着重于数据标准化和数据资源应用场景设计,确定数据资源开发项目的业务价值和技术上可操作性。

f08015a1fe9290d6359ce6722b6b7604.png

     2、大数据平台建设实施

     (1)数据治理:发布数据治理组织机构的分工、职责、制度、流程;设定数据治理各项工作流程的工作标准和技术标准,采用工作流处理数据治理各项工作流程。

     (2)数据质量:对各应用系统数据的一致性、完整性、准确性和及时性进行审查、监控、考核。

     (3)主数据:发布主数据分类标准、数据模型标准、代码编制标准和申请维护流程,保证主数据一致性。

     (4)数据指标:制定各类数据指标模板和代码编制标准和申请维护流程,按主题域发布KPI指标体系。

     (5)数据资源目录:将数据资源登记入库,建立逻辑数据资源库,发布数据资源服务目录。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
存储 分布式计算 数据挖掘
数据架构 ODPS 是什么?
数据架构 ODPS 是什么?
336 7
|
1月前
|
存储 分布式计算 大数据
大数据 优化数据读取
【11月更文挑战第4天】
50 2
|
4天前
|
机器学习/深度学习 数据可视化 大数据
机器学习与大数据分析的结合:智能决策的新引擎
机器学习与大数据分析的结合:智能决策的新引擎
46 15
|
10天前
|
SQL 分布式计算 DataWorks
DataWorks产品测评|基于DataWorks和MaxCompute产品组合实现用户画像分析
本文介绍了如何使用DataWorks和MaxCompute产品组合实现用户画像分析。首先,通过阿里云官网开通DataWorks服务并创建资源组,接着创建MaxCompute项目和数据源。随后,利用DataWorks的数据集成和数据开发模块,将业务数据同步至MaxCompute,并通过ODPS SQL完成用户画像的数据加工,最终将结果写入`ads_user_info_1d`表。文章详细记录了每一步的操作过程,包括任务开发、运行、运维操作和资源释放,帮助读者顺利完成用户画像分析。此外,还指出了文档中的一些不一致之处,并提供了相应的解决方法。
|
9天前
|
分布式计算 DataWorks 搜索推荐
用户画像分析(MaxCompute简化版)
通过本教程,您可以了解如何使用DataWorks和MaxCompute产品组合进行数仓开发与分析,并通过案例体验DataWorks数据集成、数据开发和运维中心模块的相关能力。
|
12天前
|
机器学习/深度学习 存储 数据采集
解锁DataWorks:一站式大数据治理神器
解锁DataWorks:一站式大数据治理神器
34 1
|
28天前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
68 4
|
29天前
|
关系型数据库 分布式数据库 数据库
PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具
在数字化时代,企业面对海量数据的挑战,PolarDB 以其出色的性能和可扩展性,成为大数据分析的重要工具。它不仅支持高速数据读写,还通过数据分区、索引优化等策略提升分析效率,适用于电商、金融等多个行业,助力企业精准决策。
34 4
|
1月前
|
机器学习/深度学习 分布式计算 算法
【大数据分析&机器学习】分布式机器学习
本文主要介绍分布式机器学习基础知识,并介绍主流的分布式机器学习框架,结合实例介绍一些机器学习算法。
197 5
|
1月前
|
存储 大数据 数据管理
大数据分区简化数据维护
大数据分区简化数据维护
24 4