知识点!典型的工业企业大数据分析平台解决方案(含数据治理)

简介: 当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。

    一、总体思路

     当前,工业企业产生的数据与日俱增,如何利用大数据为企业产生驱动力、竞争力成为工业企业面临的重要问题。工业企业大数据平台建设的总体思路是将现有PLC、MES、ERP、CRM、SRM、SCM、电子商务及财务共享服务等信息系统的业务数据,采用大数据技术,抽取到全业务数据中心,建立逻辑关联,整合成大数据仓库。从战略任务分解、经营计划执行和风险全周期管控,对集团的供应链服务数据、经营管理数据和生产过程数据,在全业务数据中心的支持下,建立基于业务流程数字化管控链条,打通现有信息系统的壁垒,让各级管理者和一线业务人员,能够及时获取历史数据和实时数据。想看到什么数据就能看到什么数据,实现数据按需服务,达到数据可视化,具备管理驾驶舱、报表和智能化查询的全业态数据一体化服务。

1ebe13817094cde0474df13ab1e4c425.png      二、方针和原则

     1、建设方针

     工业大数据分析平台按照“实用、可靠、先进、标准、开放”的方针进行建设。

     实用就是工业大数据分析平台的建设是要为经营管理提供洞察的,要具有实用价值;

     可靠就是工业大数据分析平台提供的数据必须是准确的,提供的分析依据是可靠的;

     先进就是工业大数据分析平台要具备前瞻性,可以快速响应未来数据形态变化的需求;

     标准就是工业大数据分析平台要实现数据、接口、服务、集成的标准化,具有可扩展性;

     开放就是工业大数据分析平台要能够管理和处理内部数据和外部数据,具有开放特性。

     2、建设原则

     工业大数据分析平台的建设原则是:

     整体规划、分步实施;

     统一标准、强化管理;

     信息公开、资源共享;

     需求主导、保障安全;

     自上而下设计,自下而上集成。

     三、核心功能

     工业大数据分析平台应具备以下核心功能:

     1、基于财务效益分析

     包括利润分析、利税分析、可利用资金分析、财务费用分析、管理费用分析等,能够实现与历史数据、与年度目标、与成员企业、与国内同行等多维度对比分析等。

     2、基于外部经济形势、行业形势与价格走势的分析

     包括宏观经济数据分析,行业数据分析、大宗原材料及产成品市场价格信息分析等,能够实现宏观经济数据、行业形势数据、价格走势数据采集和分析,在集团内形成集团管理部门和子分公司共享,实现支持决策的一体化。

     3、基于市场研判分析

     对企业产品、大宗原材料,在集团内设立市场研判信息采集源,通过电子问卷,定期(如每旬市场分析会召开之前)采集个人判断,并由系统自动汇总、通过观念整理,汇总群体判断,支持领导决策。

     4、基于内部经营的分析

     包括原材料、半成品、产成品的库存数量分析、结构分析、成本分析、潜盈亏分析,流动资金占用分析等,支持领导合理把控库存节奏。

     5、基于成本及毛利分析

     包括标准成本测算、订单成本测算、产品成本模拟测算、标准成本与实际成本差异分析。基于大宗原材库存价、当月采购价、当前市场价等不同价格条件下,不同品类产品的生产成本、毛利分析等。

     6、基于其它专业管理的决策分析

     包括生产管理、质量管理、安全管理、风险管理等。

6009a0cb7e0792151666c927716b548d.png       7、全业务数据视图

     工业大数据分析平台提供是自上而下的决策支持能力,能够为企业的决策者、各级管理者及业务负责人提供全业务数据视图以及全集团的管理视图。


5039a7ac1fc6250ee586bcf9b726a49e.png

     四、技术架构

     1、逻辑架构

     工业大数据分析平台的逻辑架构一般由数据源管理、数据存储管理、数据分析管理和数据展现四部分组成。

     数据源管理主要包括结构化的财务数据、生产数据、采购数据、销售数据、库存数据等,非结构化的文本、视频、图像等;流结构的过程数据、边缘计算数据等。

     数据存储管理主要包括ETL组件、元数据管理、大数据存储、ODS存储、主题数据存储、各种数据分析模型等。

     数据分析管理主要包括统计分析数据挖掘、报表及查询、OLAP分析、图形化及仪表盘、数据自助分析等;

     数据展现层主要是供集团领导、职能管理部门、二级板块、子分公司以及各级生产单元进行使用。

9fd32ae55fd0386df9a72fbd6bb5587e.png

     2、技术架构

     工业大数据分析平台的技术架构一般由数据源层、采集层、存储与计算层、数据服务层和应用层五部分组成。

     数据源层主要技术涉及关系型数据、文件、流数据以及企业外部数据源等。

     采集层主要技术涉及批量数据采集、流数据采集以及外部数据采集等。

     存储与计算层主要技术涉及批量计算的HIVE、Mahout、Graph、HDFS的技术、结构化数据库的MySql、oracle、DB2等技术以及在线分析的Srom、Spark Streaming等技术等。

     数据服务层主要技术涉及各类技术协议、数据协议、标签、数据模型管理等;

     应用层主要包括交互式探查、收益分析、风险分析、KPI等可视化决策支持技术。

865970ed2b8a345699dad7e8264d1bd2.png

     五、数据架构

     工业大数据分析平台的数据架构更偏重于数据架构中的逻辑模型设计。主要分为子分公司业务系统数据、子分公司BI应用数据架构、集团业务管理数据架构以及集团决策支持的数据架构。

5a441aea1405930413eddfc164874aa4.png

     六、可视化设计

     1、数据展示

     采用数据可视化技术,通过报表工具,将EDW和数据集市中的数据,根据业务逻辑和管理需求,进行多种样式的数据展现,并能实现数据挖掘功能。

2e81646012089ae9d62027699abcaebb.png

    2、管理驾驶舱

     管理驾驶舱打破数据隔离,实现指标分析及决策场景落地。通过详尽的指标体系,实时反映企业的运行状态,将采集的数据形象化、直观化、具体化。为高层管理层提供的“一站式”(One-Stop)决策支持服务。管理驾驶舱应至少提供144个指标,应包括企业所有的业务环节。具体的指标体系包括:财务、供应,库存、销售、生产、设备、人力资源、质量、物价等组成部分。

f8fef153dcef9a2b75be22da117648d0.png      

3、EXCEL表格报表

     报表功能是为企业中各层级管理人员所提供的个性化的报表服务。不同角色能轻易获得为各岗位、角色设置的常用报表,能获取其他被授权查看的预定义或即席分析型报表。同时还要实现主动式报表推送服务,可以定时和事件触发的方式将相关报表以邮件方式提供给用户。

701844cd33b1f88a2233c199a622e10f.png

     4、可视化仪表盘

     使用仪表盘数据可视化进行企业数据分析,报告业务状态为利益相关者提供了快速,高水平的视图,但有针对性的因果分析可以产生有价值的信息,可以实现底线改进。仪表盘数据可视化不仅仅是大数据和分析的任何其他入口点,它还为企业带来了价值,因为它们可以显示运营状态,销售结果以及众多其他公司事件的底层运营状况,让企业高管不需要花更多的时间在数据分析上。

d0c966bfa9bdded5ef97ef7aa5ad4922.png

    5、自助查询可视化

823925f92cb7234ace1933a13701473b.png

e5014950a0fb58e3c0047584bd0355ec.png

     七、大数据中心建设方案

     1、大数据中心规划咨询

     (1)必要性论证:大数据的开发利用应该提升到公司战略层面;数据治理应该上升到公司治理层面。

     (2)大数据中心规划:采用TOGAF方法论,前瞻技术和应用发展趋势,解读企业发展战略,将各业务条线的业务数据,按主题域建模,业务建模阶段着重于数据标准化和数据资源应用场景设计,确定数据资源开发项目的业务价值和技术上可操作性。

f08015a1fe9290d6359ce6722b6b7604.png

     2、大数据平台建设实施

     (1)数据治理:发布数据治理组织机构的分工、职责、制度、流程;设定数据治理各项工作流程的工作标准和技术标准,采用工作流处理数据治理各项工作流程。

     (2)数据质量:对各应用系统数据的一致性、完整性、准确性和及时性进行审查、监控、考核。

     (3)主数据:发布主数据分类标准、数据模型标准、代码编制标准和申请维护流程,保证主数据一致性。

     (4)数据指标:制定各类数据指标模板和代码编制标准和申请维护流程,按主题域发布KPI指标体系。

     (5)数据资源目录:将数据资源登记入库,建立逻辑数据资源库,发布数据资源服务目录。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
7月前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
7月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
7月前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
7月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
602 0
|
8月前
|
机器学习/深度学习 传感器 分布式计算
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
数据才是真救命的:聊聊如何用大数据提升灾难预警的精准度
571 14
|
10月前
|
数据采集 分布式计算 DataWorks
ODPS在某公共数据项目上的实践
本项目基于公共数据定义及ODPS与DataWorks技术,构建一体化智能化数据平台,涵盖数据目录、归集、治理、共享与开放六大目标。通过十大子系统实现全流程管理,强化数据安全与流通,提升业务效率与决策能力,助力数字化改革。
353 4
|
10月前
|
分布式计算 DataWorks 数据处理
在数据浪潮中前行:记录一次我与ODPS的实践、思考与展望
本文详细介绍了在 AI 时代背景下,如何利用阿里云 ODPS 平台(尤其是 MaxCompute)进行分布式多模态数据处理的实践过程。内容涵盖技术架构解析、完整操作流程、实际部署步骤以及未来发展方向,同时结合 CSDN 博文深入探讨了多模态数据处理的技术挑战与创新路径,为企业提供高效、低成本的大规模数据处理方案。
455 3
|
9月前
|
机器学习/深度学习 运维 监控
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
运维不怕事多,就怕没数据——用大数据喂饱你的运维策略
834 0
|
8月前
|
传感器 人工智能 监控
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
数据下田,庄稼不“瞎种”——聊聊大数据如何帮农业提效
268 14