很多人都听说过边缘计算,但不一定知道边缘计算是用来干嘛的?其实“边”是配合“端”一起来使用的。什么是“端”?举个例子,传感器、无人机都是典型的“端”。如今,无人机已经远远不止用于拍大片了,因为无论是农业喷洒还是防汛抗旱,无论是电力巡检还是国土巡防,无人机经常出现在新闻报道中。只不过,无人机在很多行业应用中扮演了一个上帝视角的视频采集员的角色,而真正的实时视频分析离不开“幕后英雄”——边缘计算。
根据IDC的报告显示,未来5年,边缘计算服务器市场将继续保持高速增长,在中国的价值复合年增长率将达到22.5%,高于全球20.2%的水平。换句话说,边缘计算在国内的应用场景会多于国外,成为真正的IT顶流设施。由此,本篇将探讨一个新的话题,那就是中国的IT产业如何满足国内市场对边缘计算应用需求的快速变化,提升行业用户在全球的竞争力?
爆发式增长的背后
我们知道,边缘计算的概念和云计算中心遥相呼应。特别是5G和物联网概念在工业互联网的业务场景中得到广泛应用之后,联网的智能终端和需要处理的数据越来越多,就造成了成本的增加,客户对计算能力下沉到数据源边缘的诉求越来越多。
换句话说,边缘计算是和物联网及其相连的数据采集设备密切相关的,相对成熟的应用场景主要包括智慧交通、智慧矿山、智能工厂、安防监控、智慧物流、智慧农业等等。因为数据采集量大,所有这些数据如果先传回到云计算中心,经过计算分析之后再传回数据采集现场完成操作闭环,那么无论是网络延时还是网络运营成本都形成了数据闭环中的制约瓶颈。由此,边缘计算应运而生。显然,边缘计算是跟大量数据采集密切相关的,而后的实时数据分析和反馈闭环,往往就形成了AI应用。在一份报告中,IDC全球基础设施实践研究总监Dave McCarthy甚至表示,AI已经成为边缘计算领域“最常见的工作负载”。
比如在畜牧业,通过边缘AI计算基础设施升级的系统,可以通过摄像头的AI升级和边云结合,借助“猪脸识别”全天候自动完成猪只出入、转栏识别、外来生物识别、轨迹监控、区域异常监控、人员服装识别等工作,不仅显著节约了人力成本,还提高了企业的专业化、现代化水平。
又比如在能源行业,油气管道及其配套的泵站作为能源运输的重要途径,一旦出现了损坏或故障,无论是陆路线路还是海底线路都可能会造成严重的环境问题,引发高昂的经济代价。因此对油气输送管道进行预测性维护已经逐渐普及化,而预测性维护的“幕后英雄”同样是边缘计算。在电力行业,如今远距离输电线路的巡检更多通过无人机在现场视频数据采集与后台AI计算分析来完成。这时候,普通无人机存在控制距离受限、无法多机协同配合、依赖人工监控等痛点问题。而边缘AI恰恰可以有效解决这些问题,比如通过区域边缘计算机节点来增强无人机的通讯范围,实现超视距的广域自动化编队飞行。应该说,如今的AI不仅仅是各行各业数字化转型升级的重要标志,更重要的是AI实实在在地帮助各行各业节省了人力成本,因此作为拓展AI应用边界的边缘计算,正在迎来爆发式增长。
AI边缘计算新方向
毫无疑问,边缘计算是云计算的一种有效补充,从云+端,拓展到云、边、端三者协同。在执行远距离输电线路巡检的案例中,边缘计算为无人机这个“端”提供了一个计算节点,扩大了控制距离,从而实现超视距的无人监管自动化飞行和多机协同配合。换句话说,边缘计算类似于前线指挥部,而云则更多成为了集中算力优化AI模型和完成后台数据存储的大本营。很明显,边缘计算大大拓展了云+端的应用范围,同时提供的算力可以满足AI对数据的本地化处理需求,因此边缘计算成为IT产业的下一个顶流,已经是基本共识。IDC根据调研数据得出的结论是,全球边缘计算服务器市场将以20.2%的五年复合年增长率增长,到2025年,支出将达到347亿美元;其中仅仅中国的边缘计算服务器市场就将达到74亿美元。当然,边缘计算应用场景的多样性,直接决定了边缘计算解决方案的多样性。随着边缘计算的应用场景越来越丰富,边缘计算市场必然会形成更加细化的市场分类,解决方案也会从传统一台服务器上插尽可能多的GPU卡的简单、粗放的AI计算平台构建,朝向精细化、集群化、多样化的方向发展。
首先在精细化方面,一部分成本敏感型客户对“提升实际的AI计算性能”有着明确需求。譬如这部分客户基于GPU成本考虑,愿意付出降低AI模型训练和推理计算精度的代价,通过降低GPU显存容量和带宽,来提高计算速度,从而达到使用同等数量的GPU来满足更多的应用同时运行的需求。戴尔科技2021年联合NVIDIA、Vmware推出了AI GPU虚拟化平台解决方案NVIDIA AI Enterprise(NVAIE),在Vmware虚拟化平台上部署NVIDIA AI及数据分析软件套件。在R750xa与A100 GPU硬件设备上,通过NVIDIA AI Enterprise进行GPU算力切割,让平台在线用户数可以提升几倍,满足更多研究生科研及课程教学的轻载算力的计算。
而另一部分客户市场,则希望通过部署Scale-out横向扩展的AI GPU分布式训练集群,突破单台物理服务器的硬件限制,以满足大型AI模型训练的算力要求。例如戴尔PowerEdge XE8545+R750xa+A100 GPU+ NVAIE+ PowerScale Isilon,已经为某体系结构实验室构建AI GPU计算集群,从而提供高性能裸金属+弹性虚拟化GPU算力。第三,还有一部分客户市场正在寻找更高性价比的AI加速芯片技术,其中包括专门为AI深度学习设计的AI神经网络专用加速芯片(NPU)等。针对这一领域,很多互联网巨头和一些IT设备供应商都进行了NPU专项投资,比如戴尔科技集团就投资了一家成立于2016年、总部位于英国的AI专用加速芯片企业Graphcore。戴尔科技可以为用户提供端到端的AI基础架构硬件解决方案,包括各类型的AI加速服务器:GPU/FPGA/CPU/AI专用加速芯片IPU;满足AI非结构化数据存储性能及容量需求的数据存储解决方案PowerScale Isilon,关键数据保护解决方案DPS;以及构建AI数据中心所需要的高速低延迟交换网络设施,数据中心机房基础设施解决方案。
拓展AI应用边界
实际上,AI边缘计算的应用场景在多元化解决方案的加持下,已经越来越多地出现在以前无法想象的地方,比如中国国家赛艇、皮划艇队也开始利用人工智能技术以及边缘计算的解决方案提升科学训练水平。
据悉,国家赛艇队需要通过视频实时捕捉运动员的划桨速率、呼吸频次、肌肉力度、运动姿态等多个数值,并作出实时分析和判断,纠正运动训练中动作角度、力度,以及稳定性的偏差,帮助运动员提高科学训练和竞技水平;另一方面,国家队经常需要前往位于不同国家和城市的训练基地,在不同的酒店或比赛场馆开展训练和比赛。
无论是在不同的训练基地还是不同的赛场,都需要AI训练系统如影随形。这时,国家队不能指望所有训练场地都有高速、稳定的Wi-Fi连接,而边缘计算设备则可以随队部署在远离国家队大本营数据中心的任何地方,保证运动员的训练数据得到实时分析,输出结果。
值得一提的是,戴尔科技不仅可以提供精细化、集群化、多样化的AI边缘计算解决方案,还为国家队提供了通过Edge-in-a-box方式实现的从电力到制冷到算力的一体化交付解决方案,保证随队周游世界的AI边缘计算设备能够快速、简单进行有效部署,并在不牺牲业务性能、可用性的同时安全、高效运行。如果说中国国家赛艇、皮划艇队与戴尔科技的合作体现出AI边缘计算解决方案在移动性和一体化部署便利性方面的应用边界拓展能力,那么戴尔科技与某港口在智能化龙门吊系统上的合作,则展现了另一层面的应用边界拓展。
我们知道,港口一定是临海、临水的,龙门吊又是装卸大型集装箱货柜的,处于高腐蚀性和高污染的环境。不过,借助多路摄像头和传感器对集装箱信息识别、箱底扭锁和自动纠偏等状态识别、作业区安全管理等采集而来的数据量又十分庞大,传回云数据中心面临高延时的安全风险,因此需要一个耐极端环境的边缘计算+AI设备,作为大脑来实现龙门吊的智能化运营。值得一提的是,GPU巨头英伟达认证的51款边缘计算机型中有31款是戴尔科技出品,其中包括戴尔科技最新推出的适应AI边缘计算场景的边缘优化服务器PowerEdge XR11和PowerEdge XR12,足以承担龙门吊智能化运营大脑的角色。
应该说,随着IOT、5G、AI人工智能技术的迅速发展,数据互联的行业应用场景会更分散、更移动、更极端,会有更多计算发生在远离传统数据中心的地方。而边缘计算和人工智能的融合部署将会极大延展传统云计算对数据处理分析的能力。云、边、端协同发展、融合,必然是AI应用普及化的必要条件之一。而拓展数字化和AI应用边界的边缘计算,正在突破安全性、可靠性和成本方面的限制,成为中国各行各业数字化和智能化转型的新的顶流方案。不是吗?