从大数据技术参考模型角度梳理大数据标准

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 面对目前数量、速度和多样性日益增长的信息资产,大数据技术通过各种解决方案、体系、结构、工具和平台集合,能有效应对大数据场景。

大数据标准化背景

面对目前数量、速度和多样性日益增长的信息资产,大数据技术通过各种解决方案、体系、结构、工具和平台集合,能有效应对大数据场景。 因为数据是大数据的基础,对于大数据标准化,除了继承数据标准化的内容外,有其特别关注的方面。 比如:定义大数据专业词汇,增加不同类型的数据结构如何标准化,解决海量多样化数据集的存储计算架构,定义并标识敏感数据,研究海量数据脱敏及数据隐私等。

在大数据领域,标准研制机构也陆续研制和发布了一系列标准,如何有效将这些标准梳理并串接起来,需要构建一套框架。 2017年11月发布的《金融业标准化体系建设发展规划(2016-2020年)》就明确提出要构建金融大数据标准体系。以下通过大数据技术参考模型角度来梳理大数据系列标准。

大数据技术参考模型

《信息技术大数据技术参考模型》是2018年7月实施的国家标准。此标准规范了大数据的基础通用模型,包括大数据角色、活动和功能组件以及它们之间的关系。

大数据参考模型总体上可以概括为“一个概念体系、二个价值链维度”。 “一个概念体系”是指它为大数据参考模型中使用的概念提供了一个构件层级分类体系,即“角色—活动—功能组件”,用于描述参考架构中的逻辑构件及其关系。“二个价值链维度”分别为“IT价值链”和“信息价值链”。其中“IT价值链”反映的是大数据作为一种新兴数据应用范式对IT技术产生的新需求所带来的价值;“信息价值链”反映的是大数据作为一种数据科学方法论,对数据到知识的处理过程中所实现的信息流价值。

大数据标准梳理

概念体系角度:上述参考模型的角色、活动和组件涉及大数据概念,需要大数据基础标准来定义。 比如最新发布的大数据标准《信息技术大数据术语》《信息技术大数据技术参考模型》等。

信息价值维度:包括数据提供者、大数据应用提供者和数据消费者角色。 其中大数据应用提供者包括收集、预处理、分析、可视化、访问活动。提供信息价值服务需要业务类标准规范数据,也需要针对大数据从产生到其使用终止的数据生命周期制定标准。业务标准比如《征信数据元》《统计数据和元数据交换(SDMX)》《银行间市场基础数据元》等。

IT价值链维度:包括大数据框架提供者、大数据应用提供者、系统协调者角色。 其中大数据框架提供者包括基础设施、平台、处理框架活动。IT基础服务需要制订大数据技术类的标准,包括大数据平台相关工具和产品规范,以及针对不同功能层次系统和技术架构系统之间的互联和互操作机制。比如说工信部正在制订的《信息技术大数据系统通用规范》通过对照大数据技术参考模型来设计规范测试内容。

框架的外围支撑:需要制订相应的大数据管理类标准和安全类标准为上述角色活动提供支撑。

管理模块:数据管理能力标准对于金融机构很有意义。 比如国际管理标准方面,国外有DAMA(数据管理协会)组织致力于研究此领域;GB/T36073-2018《数据管理能力成熟度评估模型》标准已发布,是我国首个数据管理领域的国家标准。

安全和隐私模块:安全类大数据标准需贯穿于整个数据生命周期的各个阶段,指导行业在数据采集、传输、存储、整合、共享、应用、归档与销毁等阶段进行安全技术防护和安全管理。 在大数据安全方面国标《信息安全技术大数据服务安全能力要求》已经发布,规定了大数据服务提供者应具有的相关基础安全能力和数据生命周期相关的数据服务安全能力。

来源商业新知:https://www.shangyexinzhi.com/Article/details/id-63835/

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
1月前
|
数据采集 人工智能 分布式计算
ODPS在AI时代的发展战略与技术演进分析报告
ODPS(现MaxCompute)历经十五年发展,从分布式计算平台演进为AI时代的数据基础设施,以超大规模处理、多模态融合与Data+AI协同为核心竞争力,支撑大模型训练与实时分析等前沿场景,助力企业实现数据驱动与智能化转型。
242 4
|
2月前
|
存储 分布式计算 Hadoop
Hadoop框架解析:大数据处理的核心技术
组件是对数据和方法的封装,从用户角度看是实现特定功能的独立黑盒子,能够有效完成任务。组件,也常被称作封装体,是对数据和方法的简洁封装形式。从用户的角度来看,它就像是一个实现了特定功能的黑盒子,具备输入和输出接口,能够独立完成某些任务。
|
5月前
|
数据采集 机器学习/深度学习 人工智能
面向 MoE 和推理模型时代:阿里云大数据 AI 产品升级发布
2025 AI 势能大会上,阿里云大数据 AI 平台持续创新,贴合 MoE 架构、Reasoning Model 、 Agentic RAG、MCP 等新趋势,带来计算范式变革。多款大数据及 AI 产品重磅升级,助力企业客户高效地构建 AI 模型并落地 AI 应用。
|
1月前
|
SQL 分布式计算 大数据
我与ODPS的十年技术共生之路
ODPS十年相伴,从初识的分布式计算到共生进化,突破架构边界,推动数据价值深挖。其湖仓一体、隐私计算与Serverless能力,助力企业降本增效,赋能政务与商业场景,成为数字化转型的“数字神经系统”。
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
Java 大视界 -- Java 大数据机器学习模型在自然语言生成中的可控性研究与应用(229)
本文深入探讨Java大数据与机器学习在自然语言生成(NLG)中的可控性研究,分析当前生成模型面临的“失控”挑战,如数据噪声、标注偏差及黑盒模型信任问题,提出Java技术在数据清洗、异构框架融合与生态工具链中的关键作用。通过条件注入、强化学习与模型融合等策略,实现文本生成的精准控制,并结合网易新闻与蚂蚁集团的实战案例,展示Java在提升生成效率与合规性方面的卓越能力,为金融、法律等强监管领域提供技术参考。
|
1月前
|
机器学习/深度学习 算法 Java
Java 大视界 -- Java 大数据机器学习模型在生物信息学基因功能预测中的优化与应用(223)
本文探讨了Java大数据与机器学习模型在生物信息学中基因功能预测的优化与应用。通过高效的数据处理能力和智能算法,提升基因功能预测的准确性与效率,助力医学与农业发展。
|
1月前
|
机器学习/深度学习 搜索推荐 数据可视化
Java 大视界 -- Java 大数据机器学习模型在电商用户流失预测与留存策略制定中的应用(217)
本文探讨 Java 大数据与机器学习在电商用户流失预测与留存策略中的应用。通过构建高精度预测模型与动态分层策略,助力企业提前识别流失用户、精准触达,实现用户留存率与商业价值双提升,为电商应对用户流失提供技术新思路。
|
1月前
|
机器学习/深度学习 存储 分布式计算
Java 大视界 --Java 大数据机器学习模型在金融风险压力测试中的应用与验证(211)
本文探讨了Java大数据与机器学习模型在金融风险压力测试中的创新应用。通过多源数据采集、模型构建与优化,结合随机森林、LSTM等算法,实现信用风险动态评估、市场极端场景模拟与操作风险预警。案例分析展示了花旗银行与蚂蚁集团的智能风控实践,验证了技术在提升风险识别效率与降低金融风险损失方面的显著成效。
|
1月前
|
机器学习/深度学习 自然语言处理 算法
Java 大视界 -- Java 大数据机器学习模型在自然语言处理中的对抗训练与鲁棒性提升(205)
本文探讨Java大数据与机器学习在自然语言处理中的对抗训练与鲁棒性提升,分析对抗攻击原理,结合Java技术构建对抗样本、优化训练策略,并通过智能客服等案例展示实际应用效果。
|
2月前
|
数据采集 自然语言处理 分布式计算
大数据岗位技能需求挖掘:Python爬虫与NLP技术结合
大数据岗位技能需求挖掘:Python爬虫与NLP技术结合

热门文章

最新文章