大数据+AI能与碳中和扯上关系?看这家新能源企业如何操作

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 从目前的排放总量来看,中国已是全球碳排放第一大国。处于经济上升期、排放达峰期的现况让我们必须兼顾能源低碳转型和经济转型,统筹考虑约束碳排放和保持社会经济发展增速需求之间的矛盾。为了实现碳中和目标,各行各业,尤其是能源行业,都要付出更多的努力。原本这些努力,与 IT 行业主导的 AI、大数据等技术或应用似乎是八杆子都打不着的关系。然而,就在能源革命悄悄开启的当下,数字化和智能化的技术驱动力还是悄然浮出了水面。

穷则变、变则通、通则久


在大数据和 AI 技术发展的助力下,基于 AI 的智能功率预测其实早就具备了充分的落地条件。但问题是:只单纯依靠海量历史数据样本,并且只采用单一的人工智能算法模型的方法,也早已面临「技穷」的局面,其预测准确率会随着预测时段变长而随之降低。


微信图片_20220105112205.jpg


对于电力生产而言,最常见的超短期预测也要求系统预测 4 小时内的功率输出,这意味着预测系统需要在未来 16 个时间点 (每 15 分钟计为一个时间点) 上都保持出色的预测准确率和稳定性。 


穷则思变,金风慧能通过研究和实践发现,在既有智能预测系统中,导入两项技术即可带来改观:


一是导入更多维度、更具价值的数据。传统预测方法是一种「从已有功率数据去预测未来功率」的方案,因此其在时间维度上缺乏必要的数据支撑,而气象预报数据则能有效地弥补这一短板,其时序性数据能令未来各个时间点的预测准确率都保持一致性;


二是为更多维的数据匹配多模型组合的方案,便于根据实际需求选取不同的深度学习或机器学习模型,分别与气象预报数据进行组合,扬长补短。


「牵手」Analytics Zoo

打通大数据与 AI 应用


有了解决问题的法子,接下来就是思考如何实施。第一步,要先「打通」大数据平台与 AI 应用,这是打造一个结合海量历史数据与气象预报数据,并以多模型组合方式运行的全新智能功率预测方式所必需的,但要在大量分布式数据节点上打通大数据平台与 AI 模型、框架和优化方法,也不是件容易事儿。


为此,金风慧能与英特尔展开了紧密合作。Analytics Zoo 是英特尔专门针对打通大数据平台与 AI 任务这一挑战开发并开源的解决方案,也是英特尔至强平台在软件和系统级优化上的重要组成部分。它能帮助多数企业用户现在普遍使用的、基于至强处理器的大数据平台上,直接背靠其积累的海量数据无缝部署 AI 应用。


这一过程既不需要分别构建大数据平台和 AI 平台,免去将「大吨位」数据在不同平台间腾挪所消耗的高昂成本,也无需更换大数据平台的基础设施。当然,Analytics Zoo 有很多自己的独特优势:先天就可对基于英特尔 ® 架构的硬件基础设施提供全面周到的性能调优,同时支持 TensorFlow、PyTorch、Keras、BigDL 等多种主流 AI 框架。


基于 Analytics Zoo

构建统一端到端全优化方案


是基于 Analytics Zoo,金风慧能轻松地将 Spark、TensorFlow、Keras 及其它软件和框架无缝集成到了同一管道中,实现将数据存储、数据处理以及训练推理的流水线整合到统一的基础设施上。如此一来,既可大幅提升新方案的部署效率、资源利用率和可扩展性,还能减少用于硬件管理及系统运维的成本。下面这张图展示了基于 Analytics Zoo 的分布式功率预测架构:


微信图片_20220105112226.jpg


同时,Analytics Zoo 还能卓有成效地将英特尔提供的众多底层软件加速库,如英特尔 ® 数学核心函数库 (Intel® Math Kernel Library,现名为 oneAPI Math Kernel Library)、面向深度神经网络的英特尔 ® 数学核心函数库 (Intel® Math Kernel Library for Deep Neural Network, 现名为 oneAPI Deep Neural Network Library) 等,应用到上层功率预测方案的优化中去。


「压榨」Analytics Zoo

强化时序数据分析


除了提供统一的端到端平台架构,Analytics Zoo 对于不同时序分析应用,如时序预测、异常检测、时序表征学习、时序聚类等,也提供了完整的解决方案,便于金风慧能在新方案中构建更多的预测方法组合。


Analytics Zoo 针对时序数据预置了丰富的功能组件,包括功率预测常见的深度学习和机器学习模型(LSTM、Encoder-Decoder、MTNet、ARIMA 等),功率预测中常用的数据预处理和特征工程(Datetime features、 Time diff、Log-transform、Rolling window 等),功率预测中普遍的异常探测方法(Percentile、Distribution- based、Uncertainty based、Autoencoder 等)。


 Analytics Zoo 还提供了 AutoML 方法,使新方案实现了自动化特征选择、模型选择和超参调优等,令预测模型得以更好地拟合发电设备输出功率的变化周期。 


经过全国多个光伏测试场站的实地测试,在验证方案以月为周期的条件下,每一个测试的光伏场中,在单小时内使用 30000 条记录对 LSTNet 模型进行 5000 次迭代优化,并在 50 毫秒内获得未来 2 小时的功率预测数据。结果显示,新方案在预测准确率上超越了原有方案的 59%,达到了 79.41%。


微信图片_20220105112302.jpg


金风慧能功率预测新旧方案对比。


AI 要实现「软着陆」

大数据支持不能少


金风慧能的一系列操作,从实战角度再次印证了算法、算力、数据三者良性互动的重要性。大数据作为基础资源,为 AI 技术的快速进步和实践落地起到了奠基作用。不难想象,如果没有足够量级、获取和使用足够便捷的数据为算力和算法托底,AI 的落地很可能会演变成鼻青脸肿式的「硬着陆」。


在这种认知的推动下,有越来越多的行业在 AI 应用过程中导入 Analytics Zoo,以无缝对接他们的大数据平台与 AI 应用。例如在智能制造领域,由 Analytics Zoo 提供的端到端 AI 开发与部署能力,就帮助美的构建了高效的工业视觉检测云平台,用以实施产品缺陷检测。Analytics Zoo 让美的能够在统一的、基于至强处理器的云平台上进行海量数据管理、分布式模型训练、模型重定义及模型推理等一系列 AI 处理流程。


在数据采集及预处理优化阶段,Analytics Zoo 能帮助云平台执行高效分布式数据预处理和代码优化,在 50 毫秒内就完成对图片的读取和处理;在海量数据管理阶段,它能助云平台快速进行数据存储、分类以及更新;在分布式模型训练阶段,它一方面可协助云平台构建检测模型,另一方面通过自带的 TF 优化器迅速启动分布式训练过程;在模型重定义阶段,Analytics Zoo 不仅可执行参数调整,并可加速模型推理速度。


这一通连贯的组合拳下来,结果就是美的工业视觉检测云平台的模型推理时间从 2 秒缩短到了 124 毫秒。MasterCard 和韵达则是金融和物流行业中打通大数据和 AI 应用的先行者,前者利用 Analytics Zoo,在基于至强可扩展处理器的大数据集群上直接开发和运行用于营销推荐场景的深度学习应用,不但避开了采用异构 AI 系统可能会面对的复杂工具集成、昂贵的数据复制和移动,以及更长的项目时间和资源消耗等问题,还实现了更优的精准度和召回率;


后者则利用 Analytics Zoo 和英特尔至强平台,以端到端的方式快速敏捷地构建了「大小件测量」、「数据中心异常检测」以及「件量预测」等关键环节的 AI 应用,有效提升了快递物流系统的运作效率,大大降低了人工劳动的强度和人力成本。


在这些行业用户积极尝试 Analytics Zoo 的同时,也有致力于提供成熟商品化解决方案的合作伙伴盯上了它与至强可扩展平台的组合优势——在中国 AI 服务器领域占据了市场及技术优势的浪潮,就于近期推出了融合 Analytics Zoo, 基于浪潮云海大数据平台 insight 的端到端智慧计算解决方案,可以让更多用户快捷、高效、低成本地将大数据预处理、模型的训练和推理与他们现有的大数据工作流整合在一起。值得一提的是,英特尔也在同期发布了代号为 Ice Lake、面向单路和双路服务器、基于 10 纳米制程工艺生产、拥有更优性能和能效的全新第三代至强可扩展处理器。


该处理器可搭配傲腾持久内存 200 系列、傲腾固态盘 P5800X 系列及通信带宽最高达 100Gbps 的以太网 800 系列网络适配器等存储和网络优化型产品,还有包括 Analytics Zoo 在内的多种英特尔软件及系统级优化工具,进而组合成数据计算、存储和传输表现更优、也更为均衡的新一代至强可扩展平台,相信很多用户和合作伙伴基于 Analytics Zoo 的 AI 实践或解决方案,很快就会借此平台实现更优的性能、成本和灵活性收益。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
16天前
|
机器学习/深度学习 人工智能 自动驾驶
企业内训|AI大模型在汽车行业的前沿应用研修-某汽车集团
本课程是TsingtaoAI为某汽车集团高级项目经理设计研发,课程全面系统地解析AI的发展历程、技术基础及其在汽车行业的深度应用。通过深入浅出的理论讲解、丰富的行业案例分析以及实战项目训练,学员将全面掌握机器学习、深度学习、NLP与CV等核心技术,了解自动驾驶、智能制造、车联网与智能营销等关键应用场景,洞悉AI技术对企业战略布局的深远影响。
164 97
|
3天前
|
存储 人工智能 自然语言处理
|
6天前
|
存储 人工智能 自然语言处理
AI Agent与SaaS工具协同发展的未来:企业智能化的全新范式
AI Agent以自主性和智能化为核心,适合复杂任务的动态执行;而SaaS工具则注重服务的完整性和易用性,适合标准化业务需求。
47 14
AI Agent与SaaS工具协同发展的未来:企业智能化的全新范式
|
11天前
|
数据采集 人工智能 分布式计算
MaxFrame:链接大数据与AI的高效分布式计算框架深度评测与实践!
阿里云推出的MaxFrame是链接大数据与AI的分布式Python计算框架,提供类似Pandas的操作接口和分布式处理能力。本文从部署、功能验证到实际场景全面评测MaxFrame,涵盖分布式Pandas操作、大语言模型数据预处理及企业级应用。结果显示,MaxFrame在处理大规模数据时性能显著提升,代码兼容性强,适合从数据清洗到训练数据生成的全链路场景...
38 5
MaxFrame:链接大数据与AI的高效分布式计算框架深度评测与实践!
|
6天前
|
人工智能 分布式计算 DataWorks
大数据& AI 产品月刊【2024年12月】
大数据& AI 产品技术月刊【2024年12月】,涵盖本月技术速递、产品和功能发布、市场和客户应用实践等内容,帮助您快速了解阿里云大数据& AI 方面最新动态。
|
26天前
|
机器学习/深度学习 人工智能 安全
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
近日,由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家,从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术,助力AI向善发展。
62 11
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
|
10天前
|
人工智能 运维 监控
云卓越架构:企业稳定性架构体系和AI业务场景探秘
本次分享由阿里云智能集团公共云技术服务部上海零售技术服务高级经理路志华主讲,主题为“云卓越架构:企业稳定性架构体系和AI业务场景探秘”。内容涵盖四个部分:1) 稳定性架构设计,强调高可用、可扩展性、安全性和可维护性;2) 稳定性保障体系和应急体系的建立,确保快速响应和恢复;3) 重大活动时的稳定重宝策略,如大促或新业务上线;4) AI在企业中的应用场景,包括智能编码、知识库问答、创意广告生成等。通过这些内容,帮助企业在云计算环境中构建更加稳定和高效的架构,并探索AI技术带来的创新机会。
|
13天前
|
存储 人工智能 物联网
工业公辅车间数智化节能头部企业,蘑菇物联选择 TDengine 升级 AI 云智控
在工业节能和智能化转型的浪潮中,蘑菇物联凭借其自研的灵知 AI 大模型走在行业前沿,为高能耗设备和公辅能源车间提供先进的 AI 解决方案。此次采访聚焦于蘑菇物联与 TDengine 的合作项目,通过 AI 云智控平台的建设,双方携手推动制造工厂的能源数智化管理,助力企业实现节能降碳。在本文中,我们将深入探讨蘑菇物联选择 TDengine 的原因、项目实施中的挑战与解决方案,以及合作视角下双方的未来愿景。
24 2
|
24天前
|
人工智能 Serverless API
尽享红利,Serverless构建企业AI应用方案与实践
本次课程由阿里云云原生架构师计缘分享,主题为“尽享红利,Serverless构建企业AI应用方案与实践”。课程分为四个部分:1) Serverless技术价值,介绍其发展趋势及优势;2) Serverless函数计算与AI的结合,探讨两者融合的应用场景;3) Serverless函数计算AIGC应用方案,展示具体的技术实现和客户案例;4) 业务初期如何降低使用门槛,提供新用户权益和免费资源。通过这些内容,帮助企业和开发者快速构建高效、低成本的AI应用。
68 12
|
18天前
|
人工智能 安全 搜索推荐
到2028年,30%的财富500强企业将使用仅支持AI的服务渠道
到2028年,30%的财富500强企业将使用仅支持AI的服务渠道