大数据+AI能与碳中和扯上关系?看这家新能源企业如何操作

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 从目前的排放总量来看,中国已是全球碳排放第一大国。处于经济上升期、排放达峰期的现况让我们必须兼顾能源低碳转型和经济转型,统筹考虑约束碳排放和保持社会经济发展增速需求之间的矛盾。为了实现碳中和目标,各行各业,尤其是能源行业,都要付出更多的努力。原本这些努力,与 IT 行业主导的 AI、大数据等技术或应用似乎是八杆子都打不着的关系。然而,就在能源革命悄悄开启的当下,数字化和智能化的技术驱动力还是悄然浮出了水面。

穷则变、变则通、通则久


在大数据和 AI 技术发展的助力下,基于 AI 的智能功率预测其实早就具备了充分的落地条件。但问题是:只单纯依靠海量历史数据样本,并且只采用单一的人工智能算法模型的方法,也早已面临「技穷」的局面,其预测准确率会随着预测时段变长而随之降低。


微信图片_20220105112205.jpg


对于电力生产而言,最常见的超短期预测也要求系统预测 4 小时内的功率输出,这意味着预测系统需要在未来 16 个时间点 (每 15 分钟计为一个时间点) 上都保持出色的预测准确率和稳定性。 


穷则思变,金风慧能通过研究和实践发现,在既有智能预测系统中,导入两项技术即可带来改观:


一是导入更多维度、更具价值的数据。传统预测方法是一种「从已有功率数据去预测未来功率」的方案,因此其在时间维度上缺乏必要的数据支撑,而气象预报数据则能有效地弥补这一短板,其时序性数据能令未来各个时间点的预测准确率都保持一致性;


二是为更多维的数据匹配多模型组合的方案,便于根据实际需求选取不同的深度学习或机器学习模型,分别与气象预报数据进行组合,扬长补短。


「牵手」Analytics Zoo

打通大数据与 AI 应用


有了解决问题的法子,接下来就是思考如何实施。第一步,要先「打通」大数据平台与 AI 应用,这是打造一个结合海量历史数据与气象预报数据,并以多模型组合方式运行的全新智能功率预测方式所必需的,但要在大量分布式数据节点上打通大数据平台与 AI 模型、框架和优化方法,也不是件容易事儿。


为此,金风慧能与英特尔展开了紧密合作。Analytics Zoo 是英特尔专门针对打通大数据平台与 AI 任务这一挑战开发并开源的解决方案,也是英特尔至强平台在软件和系统级优化上的重要组成部分。它能帮助多数企业用户现在普遍使用的、基于至强处理器的大数据平台上,直接背靠其积累的海量数据无缝部署 AI 应用。


这一过程既不需要分别构建大数据平台和 AI 平台,免去将「大吨位」数据在不同平台间腾挪所消耗的高昂成本,也无需更换大数据平台的基础设施。当然,Analytics Zoo 有很多自己的独特优势:先天就可对基于英特尔 ® 架构的硬件基础设施提供全面周到的性能调优,同时支持 TensorFlow、PyTorch、Keras、BigDL 等多种主流 AI 框架。


基于 Analytics Zoo

构建统一端到端全优化方案


是基于 Analytics Zoo,金风慧能轻松地将 Spark、TensorFlow、Keras 及其它软件和框架无缝集成到了同一管道中,实现将数据存储、数据处理以及训练推理的流水线整合到统一的基础设施上。如此一来,既可大幅提升新方案的部署效率、资源利用率和可扩展性,还能减少用于硬件管理及系统运维的成本。下面这张图展示了基于 Analytics Zoo 的分布式功率预测架构:


微信图片_20220105112226.jpg


同时,Analytics Zoo 还能卓有成效地将英特尔提供的众多底层软件加速库,如英特尔 ® 数学核心函数库 (Intel® Math Kernel Library,现名为 oneAPI Math Kernel Library)、面向深度神经网络的英特尔 ® 数学核心函数库 (Intel® Math Kernel Library for Deep Neural Network, 现名为 oneAPI Deep Neural Network Library) 等,应用到上层功率预测方案的优化中去。


「压榨」Analytics Zoo

强化时序数据分析


除了提供统一的端到端平台架构,Analytics Zoo 对于不同时序分析应用,如时序预测、异常检测、时序表征学习、时序聚类等,也提供了完整的解决方案,便于金风慧能在新方案中构建更多的预测方法组合。


Analytics Zoo 针对时序数据预置了丰富的功能组件,包括功率预测常见的深度学习和机器学习模型(LSTM、Encoder-Decoder、MTNet、ARIMA 等),功率预测中常用的数据预处理和特征工程(Datetime features、 Time diff、Log-transform、Rolling window 等),功率预测中普遍的异常探测方法(Percentile、Distribution- based、Uncertainty based、Autoencoder 等)。


 Analytics Zoo 还提供了 AutoML 方法,使新方案实现了自动化特征选择、模型选择和超参调优等,令预测模型得以更好地拟合发电设备输出功率的变化周期。 


经过全国多个光伏测试场站的实地测试,在验证方案以月为周期的条件下,每一个测试的光伏场中,在单小时内使用 30000 条记录对 LSTNet 模型进行 5000 次迭代优化,并在 50 毫秒内获得未来 2 小时的功率预测数据。结果显示,新方案在预测准确率上超越了原有方案的 59%,达到了 79.41%。


微信图片_20220105112302.jpg


金风慧能功率预测新旧方案对比。


AI 要实现「软着陆」

大数据支持不能少


金风慧能的一系列操作,从实战角度再次印证了算法、算力、数据三者良性互动的重要性。大数据作为基础资源,为 AI 技术的快速进步和实践落地起到了奠基作用。不难想象,如果没有足够量级、获取和使用足够便捷的数据为算力和算法托底,AI 的落地很可能会演变成鼻青脸肿式的「硬着陆」。


在这种认知的推动下,有越来越多的行业在 AI 应用过程中导入 Analytics Zoo,以无缝对接他们的大数据平台与 AI 应用。例如在智能制造领域,由 Analytics Zoo 提供的端到端 AI 开发与部署能力,就帮助美的构建了高效的工业视觉检测云平台,用以实施产品缺陷检测。Analytics Zoo 让美的能够在统一的、基于至强处理器的云平台上进行海量数据管理、分布式模型训练、模型重定义及模型推理等一系列 AI 处理流程。


在数据采集及预处理优化阶段,Analytics Zoo 能帮助云平台执行高效分布式数据预处理和代码优化,在 50 毫秒内就完成对图片的读取和处理;在海量数据管理阶段,它能助云平台快速进行数据存储、分类以及更新;在分布式模型训练阶段,它一方面可协助云平台构建检测模型,另一方面通过自带的 TF 优化器迅速启动分布式训练过程;在模型重定义阶段,Analytics Zoo 不仅可执行参数调整,并可加速模型推理速度。


这一通连贯的组合拳下来,结果就是美的工业视觉检测云平台的模型推理时间从 2 秒缩短到了 124 毫秒。MasterCard 和韵达则是金融和物流行业中打通大数据和 AI 应用的先行者,前者利用 Analytics Zoo,在基于至强可扩展处理器的大数据集群上直接开发和运行用于营销推荐场景的深度学习应用,不但避开了采用异构 AI 系统可能会面对的复杂工具集成、昂贵的数据复制和移动,以及更长的项目时间和资源消耗等问题,还实现了更优的精准度和召回率;


后者则利用 Analytics Zoo 和英特尔至强平台,以端到端的方式快速敏捷地构建了「大小件测量」、「数据中心异常检测」以及「件量预测」等关键环节的 AI 应用,有效提升了快递物流系统的运作效率,大大降低了人工劳动的强度和人力成本。


在这些行业用户积极尝试 Analytics Zoo 的同时,也有致力于提供成熟商品化解决方案的合作伙伴盯上了它与至强可扩展平台的组合优势——在中国 AI 服务器领域占据了市场及技术优势的浪潮,就于近期推出了融合 Analytics Zoo, 基于浪潮云海大数据平台 insight 的端到端智慧计算解决方案,可以让更多用户快捷、高效、低成本地将大数据预处理、模型的训练和推理与他们现有的大数据工作流整合在一起。值得一提的是,英特尔也在同期发布了代号为 Ice Lake、面向单路和双路服务器、基于 10 纳米制程工艺生产、拥有更优性能和能效的全新第三代至强可扩展处理器。


该处理器可搭配傲腾持久内存 200 系列、傲腾固态盘 P5800X 系列及通信带宽最高达 100Gbps 的以太网 800 系列网络适配器等存储和网络优化型产品,还有包括 Analytics Zoo 在内的多种英特尔软件及系统级优化工具,进而组合成数据计算、存储和传输表现更优、也更为均衡的新一代至强可扩展平台,相信很多用户和合作伙伴基于 Analytics Zoo 的 AI 实践或解决方案,很快就会借此平台实现更优的性能、成本和灵活性收益。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4天前
|
机器学习/深度学习 人工智能 安全
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
近日,由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家,从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术,助力AI向善发展。
35 11
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
|
2天前
|
人工智能 Serverless API
尽享红利,Serverless构建企业AI应用方案与实践
本次课程由阿里云云原生架构师计缘分享,主题为“尽享红利,Serverless构建企业AI应用方案与实践”。课程分为四个部分:1) Serverless技术价值,介绍其发展趋势及优势;2) Serverless函数计算与AI的结合,探讨两者融合的应用场景;3) Serverless函数计算AIGC应用方案,展示具体的技术实现和客户案例;4) 业务初期如何降低使用门槛,提供新用户权益和免费资源。通过这些内容,帮助企业和开发者快速构建高效、低成本的AI应用。
32 12
|
6天前
|
人工智能 自然语言处理 数据挖掘
从行业痛点到AI前沿:揭秘AGI时代企业培训的终极之选
近几年接触到的各类培训合作方越来越多,从国际咨询巨头、互联网科技培训平台,到本土独角兽型的专业培训公司;从专攻新技术与创新场景的培训团队,到深谙传统行业痛点的咨询顾问。作为一名在央企、国企、上市公司人力资源培训条线深耕多年的HR负责人,深知在这片竞争激烈的培训服务蓝海中,寻找高质、高效的合作伙伴并不简单,因为企业培训的逻辑正在悄然改变。
|
13天前
|
人工智能 自然语言处理 算法
AI时代的企业内训全景图:从案例到实战
作为一名扎根在HR培训领域多年的“老兵”,我越来越清晰地感受到,企业内训的本质其实是为企业持续“造血”。无论是基础岗的新人培训、技能岗的操作规范培训,还是面向技术中坚力量的高阶技术研讨,抑或是管理层的战略思维提升课,内训的价值都是在帮助企业内部提升能力水平,进而提高组织生产力,减少对外部资源的依赖。更为重要的是,在当前AI、大模型、Embodied Intelligence等新兴技术快速迭代的背景下,企业必须不断为人才升级赋能,才能在市场竞争中保持领先。
|
1月前
|
人工智能 数据挖掘 数据库
拥抱Data+AI|破解电商7大挑战,DMS+AnalyticDB助力企业智能决策
本文为数据库「拥抱Data+AI」系列连载第1篇,该系列是阿里云瑶池数据库面向各行业Data+AI应用场景,基于真实客户案例&最佳实践,展示Data+AI行业解决方案的连载文章。本篇内容针对电商行业痛点,将深入探讨如何利用数据与AI技术以及数据分析方法论,为电商行业注入新的活力与效能。
拥抱Data+AI|破解电商7大挑战,DMS+AnalyticDB助力企业智能决策
|
18天前
|
机器学习/深度学习 人工智能 运维
智能化运维:AI与大数据在IT运维中的应用探索####
本文旨在探讨人工智能(AI)与大数据分析技术如何革新传统IT运维模式,提升运维效率与服务质量。通过具体案例分析,揭示AI算法在故障预测、异常检测及自动化修复等方面的实际应用成效,同时阐述大数据如何助力实现精准运维管理,降低运营成本,提升用户体验。文章还将简要讨论实施智能化运维面临的挑战与未来发展趋势,为IT管理者提供决策参考。 ####
|
1月前
|
人工智能 数据库 决策智能
拥抱Data+AI|如何破解电商7大挑战?DMS+AnalyticDB助力企业智能决策
本文为阿里云瑶池数据库「拥抱Data+AI」系列连载第1篇,聚焦电商行业痛点,探讨如何利用数据与AI技术及分析方法论,为电商注入新活力与效能。文中详细介绍了阿里云Data+AI解决方案,涵盖Zero-ETL、实时在线分析、混合负载资源隔离、长周期数据归档等关键技术,帮助企业应对数据在线重刷、实时分析、成本优化等挑战,实现智能化转型。
拥抱Data+AI|如何破解电商7大挑战?DMS+AnalyticDB助力企业智能决策
|
1月前
|
存储 人工智能 数据可视化
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
在数字化时代,企业面临海量客户对话数据处理的挑战。阿里云推出的“AI大模型助力客户对话分析”解决方案,通过先进的AI技术和智能化分析,帮助企业精准识别客户意图、发现服务质量问题,并生成详尽的分析报告和可视化数据。该方案采用按需付费模式,有效降低企业运营成本,提升客服质量和销售转化率。
高效率,低成本!且看阿里云AI大模型如何帮助企业提升客服质量和销售转化率
|
1月前
|
存储 人工智能 分布式计算
大数据& AI 产品月刊【2024年10月】
大数据& AI 产品技术月刊【2024年10月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
1月前
|
人工智能 自然语言处理 算法
企业内训|AI/大模型/智能体的测评/评估技术-某电信运营商互联网研发中心
本课程是TsingtaoAI专为某电信运营商的互联网研发中心的AI算法工程师设计,已于近日在广州对客户团队完成交付。课程聚焦AI算法工程师在AI、大模型和智能体的测评/评估技术中的关键能力建设,深入探讨如何基于当前先进的AI、大模型与智能体技术,构建符合实际场景需求的科学测评体系。课程内容涵盖大模型及智能体的基础理论、测评集构建、评分标准、自动化与人工测评方法,以及特定垂直场景下的测评实战等方面。
115 4
下一篇
DataWorks