知识点!典型的工业企业大数据分析平台解决方案(含数据治理)

简介: 当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。

    一、总体思路

     当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。工业企业大数据平台建设的总体思路是将现有PLC、MES、ERP、CRM、SRM、SCM、电子商务及财务共享服务等信息系统的业务数据,采用大数据技术,抽取到全业务数据中心,建立逻辑关联,整合成大数据仓库。从战略任务分解、经营计划执行和风险全周期管控,对集团的供应链服务数据、经营管理数据和生产过程数据,在全业务数据中心的支持下,建立基于业务流程数字化管控链条,打通现有信息系统的壁垒,让各级管理者和一线业务人员,能够及时获取历史数据和实时数据。想看到什么数据就能看到什么数据,实现数据按需服务,达到数据可视化,具备管理驾驶舱、报表和智能化查询的全业态数据一体化服务。

1ebe13817094cde0474df13ab1e4c425.png      二、方针和原则

     1、建设方针

     工业大数据分析平台按照“实用、可靠、先进、标准、开放”的方针进行建设。

     实用就是工业大数据分析平台的建设是要为经营管理提供洞察的,要具有实用价值;

     可靠就是工业大数据分析平台提供的数据必须是准确的,提供的分析依据是可靠的;

     先进就是工业大数据分析平台要具备前瞻性,可以快速响应未来数据形态变化的需求;

     标准就是工业大数据分析平台要实现数据、接口、服务、集成的标准化,具有可扩展性;

     开放就是工业大数据分析平台要能够管理和处理内部数据和外部数据,具有开放特性。

     2、建设原则

     工业大数据分析平台的建设原则是:

     整体规划、分步实施;

     统一标准、强化管理;

     信息公开、资源共享;

     需求主导、保障安全;

     自上而下设计,自下而上集成。

     三、核心功能

     工业大数据分析平台应具备以下核心功能:

     1、基于财务效益分析

     包括利润分析、利税分析、可利用资金分析、财务费用分析、管理费用分析等,能够实现与历史数据、与年度目标、与成员企业、与国内同行等多维度对比分析等。

     2、基于外部经济形势、行业形势与价格走势的分析

     包括宏观经济数据分析,行业数据分析、大宗原材料及产成品市场价格信息分析等,能够实现宏观经济数据、行业形势数据、价格走势数据采集和分析,在集团内形成集团管理部门和子分公司共享,实现支持决策的一体化。

     3、基于市场研判分析

     对企业产品、大宗原材料,在集团内设立市场研判信息采集源,通过电子问卷,定期(如每旬市场分析会召开之前)采集个人判断,并由系统自动汇总、通过观念整理,汇总群体判断,支持领导决策。

     4、基于内部经营的分析

     包括原材料、半成品、产成品的库存数量分析、结构分析、成本分析、潜盈亏分析,流动资金占用分析等,支持领导合理把控库存节奏。

     5、基于成本及毛利分析

     包括标准成本测算、订单成本测算、产品成本模拟测算、标准成本与实际成本差异分析。基于大宗原材库存价、当月采购价、当前市场价等不同价格条件下,不同品类产品的生产成本、毛利分析等。

     6、基于其它专业管理的决策分析

     包括生产管理、质量管理、安全管理、风险管理等。

6009a0cb7e0792151666c927716b548d.png       7、全业务数据视图

     工业大数据分析平台提供是自上而下的决策支持能力,能够为企业的决策者、各级管理者及业务负责人提供全业务数据视图以及全集团的管理视图。


5039a7ac1fc6250ee586bcf9b726a49e.png

     四、技术架构

     1、逻辑架构

     工业大数据分析平台的逻辑架构一般由数据源管理、数据存储管理、数据分析管理和数据展现四部分组成。

     数据源管理主要包括结构化的财务数据、生产数据、采购数据、销售数据、库存数据等,非结构化的文本、视频、图像等;流结构的过程数据、边缘计算数据等。

     数据存储管理主要包括ETL组件、元数据管理、大数据存储、ODS存储、主题数据存储、各种数据分析模型等。

     数据分析管理主要包括统计分析数据挖掘、报表及查询、OLAP分析、图形化及仪表盘、数据自助分析等;

     数据展现层主要是供集团领导、职能管理部门、二级板块、子分公司以及各级生产单元进行使用。

9fd32ae55fd0386df9a72fbd6bb5587e.png

     2、技术架构

     工业大数据分析平台的技术架构一般由数据源层、采集层、存储与计算层、数据服务层和应用层五部分组成。

     数据源层主要技术涉及关系型数据、文件、流数据以及企业外部数据源等。

     采集层主要技术涉及批量数据采集、流数据采集以及外部数据采集等。

     存储与计算层主要技术涉及批量计算的HIVE、Mahout、Graph、HDFS的技术、结构化数据库的MySql、oracle、DB2等技术以及在线分析的Srom、Spark Streaming等技术等。

     数据服务层主要技术涉及各类技术协议、数据协议、标签、数据模型管理等;

     应用层主要包括交互式探查、收益分析、风险分析、KPI等可视化决策支持技术。

865970ed2b8a345699dad7e8264d1bd2.png

     五、数据架构

     工业大数据分析平台的数据架构更偏重于数据架构中的逻辑模型设计。主要分为子分公司业务系统数据、子分公司BI应用数据架构、集团业务管理数据架构以及集团决策支持的数据架构。

5a441aea1405930413eddfc164874aa4.png

     六、可视化设计

     1、数据展示

     采用数据可视化技术,通过报表工具,将EDW和数据集市中的数据,根据业务逻辑和管理需求,进行多种样式的数据展现,并能实现数据挖掘功能。

2e81646012089ae9d62027699abcaebb.png

    2、管理驾驶舱

     管理驾驶舱打破数据隔离,实现指标分析及决策场景落地。通过详尽的指标体系,实时反映企业的运行状态,将采集的数据形象化、直观化、具体化。为高层管理层提供的“一站式”(One-Stop)决策支持服务。管理驾驶舱应至少提供144个指标,应包括企业所有的业务环节。具体的指标体系包括:财务、供应,库存、销售、生产、设备、人力资源、质量、物价等组成部分。

f8fef153dcef9a2b75be22da117648d0.png      

3、EXCEL表格报表

     报表功能是为企业中各层级管理人员所提供的个性化的报表服务。不同角色能轻易获得为各岗位、角色设置的常用报表,能获取其他被授权查看的预定义或即席分析型报表。同时还要实现主动式报表推送服务,可以定时和事件触发的方式将相关报表以邮件方式提供给用户。

701844cd33b1f88a2233c199a622e10f.png

     4、可视化仪表盘

     使用仪表盘数据可视化进行企业数据分析,报告业务状态为利益相关者提供了快速,高水平的视图,但有针对性的因果分析可以产生有价值的信息,可以实现底线改进。仪表盘数据可视化不仅仅是大数据和分析的任何其他入口点,它还为企业带来了价值,因为它们可以显示运营状态,销售结果以及众多其他公司事件的底层运营状况,让企业高管不需要花更多的时间在数据分析上。

d0c966bfa9bdded5ef97ef7aa5ad4922.png

    5、自助查询可视化

823925f92cb7234ace1933a13701473b.png

e5014950a0fb58e3c0047584bd0355ec.png

     七、大数据中心建设方案

     1、大数据中心规划咨询

     (1)必要性论证:大数据的开发利用应该提升到公司战略层面;数据治理应该上升到公司治理层面。

     (2)大数据中心规划:采用TOGAF方法论,前瞻技术和应用发展趋势,解读企业发展战略,将各业务条线的业务数据,按主题域建模,业务建模阶段着重于数据标准化和数据资源应用场景设计,确定数据资源开发项目的业务价值和技术上可操作性。

f08015a1fe9290d6359ce6722b6b7604.png

     2、大数据平台建设实施

     (1)数据治理:发布数据治理组织机构的分工、职责、制度、流程;设定数据治理各项工作流程的工作标准和技术标准,采用工作流处理数据治理各项工作流程。

     (2)数据质量:对各应用系统数据的一致性、完整性、准确性和及时性进行审查、监控、考核。

     (3)主数据:发布主数据分类标准、数据模型标准、代码编制标准和申请维护流程,保证主数据一致性。

     (4)数据指标:制定各类数据指标模板和代码编制标准和申请维护流程,按主题域发布KPI指标体系。

     (5)数据资源目录:将数据资源登记入库,建立逻辑数据资源库,发布数据资源服务目录。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
21天前
|
存储 消息中间件 监控
【Flume】Flume在大数据分析领域的应用
【4月更文挑战第4天】【Flume】Flume在大数据分析领域的应用
|
1月前
|
Cloud Native 数据处理 云计算
探索云原生技术在大数据分析中的应用
随着云计算技术的不断发展,云原生架构作为一种全新的软件开发和部署模式,正逐渐引起企业的广泛关注。本文将探讨云原生技术在大数据分析领域的应用,介绍其优势与挑战,并探讨如何利用云原生技术提升大数据分析的效率和可靠性。
|
1月前
|
存储 消息中间件 大数据
Go语言在大数据处理中的实际应用与案例分析
【2月更文挑战第22天】本文深入探讨了Go语言在大数据处理中的实际应用,通过案例分析展示了Go语言在处理大数据时的优势和实践效果。文章首先介绍了大数据处理的挑战与需求,然后详细分析了Go语言在大数据处理中的适用性和核心技术,最后通过具体案例展示了Go语言在大数据处理中的实际应用。
|
1月前
|
数据采集 运维 数据挖掘
API电商接口大数据分析与数据挖掘 (商品详情店铺)
API接口、数据分析以及数据挖掘在商品详情和店铺相关的应用中,各自扮演着重要的角色。以下是关于它们各自的功能以及如何在商品详情和店铺分析中协同工作的简要说明。
|
3月前
|
关系型数据库 MySQL Serverless
高顿教育:大数据抽数分析业务引入polardb mysql serverless
高顿教育通过使用polardb serverless形态进行数据汇总,然后统一进行数据同步到数仓,业务有明显高低峰期,灵活的弹性伸缩能力,大大降低了客户使用成本。
|
3月前
|
机器学习/深度学习 数据采集 算法
大数据分析技术与方法探究
在当今信息化时代,数据量的增长速度远快于人类的处理能力。因此,如何高效地利用大数据,成为了企业和机构关注的焦点。本文将从大数据分析的技术和方法两个方面进行探究,为各行业提供更好的数据应用方向。
|
2月前
|
API
GEE案例分析——利用sentinel-3数据计算空气污染指数(Air Pollution Index,简称API)
GEE案例分析——利用sentinel-3数据计算空气污染指数(Air Pollution Index,简称API)
109 0
|
3月前
|
数据挖掘
离线大数据分析的应用
离线大数据分析的应用
|
3月前
|
机器学习/深度学习 存储 人工智能
大数据处理与分析技术:未来的基石
在信息化时代,数据已成为企业发展和决策的基础。而随着数据量的不断增长,传统的数据处理方法已经无法满足现代企业的需求。因此,大数据处理与分析技术的出现成为了新时代的必需品。本文将介绍大数据处理与分析技术的概念,意义、应用场景以及未来发展趋势。
50 3
|
15天前
|
机器学习/深度学习 人工智能 安全
Azure Databricks实战:在云上轻松进行大数据分析与AI开发
【4月更文挑战第8天】Databricks在大数据分析和AI开发中表现出色,简化流程并提高效率。文中列举了三个应用场景:数据湖分析、实时流处理和AI机器学习,并阐述了Databricks的一体化平台、云原生弹性及企业级安全优势。博主认为,Databricks提升了研发效能,无缝集成Azure生态,并具有持续创新潜力,是应对大数据挑战和加速AI创新的理想工具。
40 0

热门文章

最新文章