无线仍然是 AI 和边缘计算发展的瓶颈

简介: 数据中心正在向网络边缘扩展,以满足人工智能和其他应用程序的快速响应需求,而这是传统数据中心架构所无法提供的。

云栖号资讯:【点击查看更多行业资讯
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

数据中心正在向网络边缘扩展,以满足人工智能和其他应用程序的快速响应需求,而这是传统数据中心架构所无法提供的。

传统架构的问题在于它们的集中式框架。通常,数据会从边缘传到数百英里外的电脑上,然后再传回来。当你在使用电子邮件、谷歌、Facebook 和其他通过云提供的应用程序时,这没问题。人脑是台运行缓慢的电脑,无法记录从在浏览器中点击电子邮件到邮件打开之间的时间延迟。

但人工智能和其他新兴应用,如物联网(IoT)、基于云的游戏、虚拟现实等,需要更快的网络响应速度,也就是所谓的“低延迟”。这意味着数据中心的处理过程必须转移到网络边缘。边缘计算可以在小型数据中心中进行,其大小大致相当于海运集装箱,而不是目前支持云计算的仓库大小的大型建筑。

像 EdgeMicro 和 Vapor.io 这样的初创公司正在部署这样的“微型数据中心”。

数据中心运营商仍然可以使用它们的传统结构,并借助快速网络和其他硬件及软件来确保边缘应用程序所需的快速响应时间。
边缘数据中心可以位于企业办公场所,也可以位于矿山、船舶和油田等外部地点。

Moor Insights&Strategy 总裁兼首席分析师 Patrick Moorhead 表示:“(推动边缘计算的)首要因素是数据中心之外产生的数据量。”到 2024 年,联网传感器的数量将达到 1 万亿,主要由智能城市和视频驱动。

延迟并不是需要边缘计算来解决的唯一问题。Moorhead 说:“成本才是真正推动边缘计算的因素。每次你把数据送入数据中心,都是要付钱的。互联网不是免费的。”互联网提供商对带宽收费,而云提供商,比如亚马逊网络服务(AWS),对在云中进出的数据收取“出口费(egress charges)”

对于无法访问网络的应用程序,组织就需要在边缘进行计算,如在船上、在矿井下或在油田上。与此同时,越来越多的隐私法规要求某些应用程序现场处理数据,尤其是医疗保健。

Moorhead 说:“如果你是一家医院,那么你完全无权向云上发送任何数据。”即使允许这样做,带宽成本也会使移动大部分数据变得非常昂贵,尤其是诊断图像。

运营商对边缘计算的看法

Digital Realty 是世界上最大的数据中心运营商之一,其特别之处在于它有一个全球化的平台和基础设施,从大型多兆瓦的设施到单个的机笼和机架。该公司在全球 20 个国家拥有 267 个数据中心。

边缘地区需要一种新的基础设施。Digital Realty 首席技术官 Chris Sharp 说:“它一点也不像传统的数据中心。其规模要小得多,其工作负载需要很大的功率密度和互连密度。”这些微型数据中心是无人值守的,现场没有操作人员,不提供多租户支持。返回到核心云基础设施的密集光纤连接也是必须的。

Digital Realty 正处于部署微型数据中心的早期阶段,在芝加哥、亚特兰大和达拉斯,他们与初创公司 Vapor IO 合作开发了原型。
微型数据中心并不是唯一的选择。Digital Realty 的全球服务创新总监 Russell Shriver 说,在许多地方,边缘应用程序可以在传统的数据中心内运行,并且仍然可以达到应用程序快速响应所需的 5 毫秒延迟。他表示:“对于许多在市区寻找边缘解决方案的企业而言,这足以满足它们的需求。”

微型数据中心仍然是一个新兴市场。Equinix(Digital Realty 公司的竞争对手)全球业务发展副总裁 Jim Poole 表示,事实上,他们现有的设施可以满足其服务提供商和企业客户的边缘计算需求。“Equinix,从其存在,就在边缘”。

Equinix 在全球 44 个主要城市地区拥有超过 190 个数据中心。对于位于 Equinix 数据中心集群上的应用程序,美国大部分地区已经实现了 10 毫秒的光纤往返访问时间。这一延迟覆盖了 80% 的美国人口。在建立新的微型数据中心之前,企业和服务供应商都希望在现有的基础设施中最大限度地部署边缘应用程序。

无线是瓶颈

虽然 Equinix 可以通过光纤实现低延迟,但边缘应用程序也需要无线,而无线仍然是 AI 和其他新兴边缘应用程序的瓶颈。Poole 说,目前,4G 无线网络的延迟最好为 40 毫秒,平均延迟在 60 毫秒到 120 毫秒之间。

5G 有望大幅降低延迟。因此,服务提供商正在与超大规模的云服务提供商合作,从而利用改进后的性能。例如,AWS 和 Verizon 正在合作,将位于洛杉矶市中心的 AWS 数据中心与该市的 Verizon 无线接入网络(RAN)塔连接起来。Poole 说,该项目证明,他们可以在市区周围创建一个低于 10 毫秒的延迟区。反过来,这也可能会产生对微型数据中心的需求。“但是,在我们解决这个特殊的问题之前,没有人会愿意为增加的成本买单,”他表示。

此外,Poole 补充说,5G 的“网络切片”功能将使部署私有无线网络成为可能,从而加强控制和安全。
目前,微型数据中心是一种很有前途的技术,但规模还不大。Poole 说:“你没有看到人们争相宣布要部署成百上千个这样的微型数据中心,原因是人们还没有看到商机。”

尽管如此,Equinix 确实看到了模块化数据中心的使用案例——不一定是在边缘,而是作为一种进入新兴市场的手段,目前看来,在这个市场中,建造一个 1 亿美元的数据中心没什么意义。

AI 驱动

Equinix 高级研究员 Kaladhar Voruganti 表示,人工智能正在带来巨大的边缘计算需求。

人工智能应用程序主要包括两类工作负载:训练和推断。顾名思义,训练就是教一个人工智能模型如何解决问题。这个过程通常涉及组织 PB 级的数据。

Voruganti 说,“通常,你需要大量的计算”。训练运行在非常耗电的 GPU 上,每个满载的机架要消耗高达 30 到 40 千瓦。训练通常需要在大型数据中心里运行,这样才能满足其电力需求,以及某些应用程序中的隐私和监管要求。

Digital Realty 与 Nvidia 合作,在托管服务器中提供硬件供应商的 GPU。
模型训练完成后,下一步是推理,在此过程中,模型应用它在训练中学到的知识,并将其应用到生产应用程序中。推理所需的数据处理要少得多,并且可以运行在网络边缘(智能手机、特斯拉或微型或地铁数据中心)快速部署的 Docker 或其他软件容器中。
分析师 Patrick Moorhead 说:“你可以在大型的云上训练它,然后在工厂、沃尔玛或加油站运行应用程序进行推理。”
这些类型的人工智能应用程序可以在各种情况下使用。例如,航空公司可能使用“数字双胞胎”进行预测性维护。或者,随着经济从 Covid-19 大流行中恢复,企业可以使用人工智能来运行热点图和面部识别程序,识别进入设施的可能受感染的人。
其他需要边缘计算(经常使用人工智能)的应用包括游戏、物联网、智能工厂、运输和物流。此外,零售技术需要边缘计算来提供所需的响应能力。

Moorhead 认为,零售行业对边缘数据中心的需求特别大。像 Amazon Go 这样的“未来商店”有数百个摄像头,沃尔玛也用视频跟踪顾客。他说:“他们非常需要。”

智慧城市的规划者们希望利用人工智能和其他前沿应用来促进健康和安全,追踪基础设施维护需求以及管理交通。
其他需求来自交通(包括当前大肆宣传的自动驾驶汽车)以及先进制造和产品视觉检验。能源行业也在推动需求,尤其是在远程检测方面。

特殊的硬件需求

Equinix 的 Voruganti 表示,边缘 AI 应用通常使用闪存来实现高性能。这些应用程序还需要高度的网络连通性,从设备到边缘,再到数据中心。Poole 说,在网络上不同位置运行的应用程序组件之间可能也需要链接。“它们需要组件和域之间能够保证低延迟,”他补充说。

Moorhead 说,边缘计算还需要坚固耐用,以便可以部署在电梯、公共交通闸和采矿设备上,而船载计算机必须具备耐盐水性。

边缘计算也带来了物理安全方面的挑战。传统的超大规模数据中心具有接近军事级别的安全性,但位于农村地区的边缘数据中心则无人看守,很容易闯入,攻击者甚至可以用卡车将整个远程数据中心运走。

赢家……

超云、企业供应商、电信供应商和数据中心运营商看起来都像是边缘计算的赢家。Moorhead 说,“AWS 是一艘大船。虽然很缓慢,但肯定会推出一项可信赖的边缘计算服务”。

这家公有云巨头发布了运行其基础设施软件的 AWS Outposts,这是一个运行 AWS 数据中心的硬件机架,和运行在 AWS 数据中心的基础设施相同。Outposts 可以在本地、边缘或数据中心中运行。 AWS Snowball 是一种边缘计算设备,为船舶一类的远程环境提供计算、内存和存储。亚马逊提供的另一款名为 Wavelength 的产品是一款面向运营商的边缘设备,它让计算机更接近 5G 部署的边缘。

在软件方面,AWS IoT Greengrass 是一个将 IoT 设备连接到云的操作系统。与此同时,其公有云竞争对手微软也提供了 Azure Cloud IoT-for-edge 服务,而 VMware 也提供边缘计算服务。Moorhead 说,VMware“在这个领域的竞争力令人惊讶”。

另一家主要的公有云供应商谷歌一直有点落后,但它正借助面向分布式云应用程序的 Anthos 服务增强自身的竞争力。

Moorhead 说,与此同时,像戴尔、惠普(边缘服务器)和思科(IoT 网络)这样的 IT 基础设施巨头也有优势,因为边缘计算需要一个大的生态系统,将企业内部的基础设施和云连接起来。

Moorhead 认为,新兴的边缘数据中心供应商,如 Vapor IO,也有机会重新定义旧有的技术。“50 年来,一直有数据中心处于边缘。任何沃尔玛都有高架地板和一个数据中心。如果你去加油站或麦当劳,他们在墙上会有一个服务器,”他说,“Vapor IO 真正想要的是添加近网计算能力,尤其是 5G 网络。”

电信公司的中央办公室也可以被改造成微型数据中心,为运营商创造机会。Moorhead 说,“一个典型的社区会有一栋水泥建筑,里面有模拟线路和一堆机架。现在,它们几乎空了。它们功能强大。它们有工业级的强度——确切地说,是一个很难攻破的水泥掩体——而且还有供电和冷却系统。”

Equinix 和 Digital Reality 声称,鉴于他们作为全球数据中心和网络运营商的优势,他们处于边缘计算的有利地位。“你不能违背事实,”Poole 说,“电信公司会做得很好——他们可以在地方一级创造接入。这是无法回避的。”

他补充道:“像 Equinix 这样分布范围很广的数据中心公司将会做得很好,因为如今的应用程序就在我们身边。”

Digital Realty 的 Sharp 补充道:“你需要一个全球性平台,否则你将很难成功。客户在与单一市场的点供应商进行交易时会非常谨慎。如果你没有真正的投入,没有必要的资金来支持全球性环境,那么你就无法取得成功。”

Sharp 补充道,“客户不想管理 10 或 15 个供应商才能推出自己的基础设施”。

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/zhibo

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-05-22
本文作者:Mitch Wagner
本文来自:“InfoQ”,了解相关信息可以关注“InfoQ

相关文章
|
6月前
|
边缘计算 人工智能 自然语言处理
引领AI变革:边缘计算与自然语言处理结合的无尽可能
引领AI变革:边缘计算与自然语言处理结合的无尽可能
|
3月前
|
存储 边缘计算 人工智能
【边缘计算与AI】分析边缘计算在处理AI任务、优化响应速度和数据隐私保护方面的作用和潜力
边缘计算与AI的结合是当前技术发展的重要趋势,两者相互依存、相互促进,共同推动着数字化转型的深入发展。以下是对边缘计算与AI关系的详细分析
91 6
|
3月前
|
边缘计算 人工智能 监控
边缘计算与AI结合的场景案例研究
【8月更文第17天】随着物联网(IoT)设备数量的爆炸性增长,对实时数据处理的需求也随之增加。传统的云计算模型在处理这些数据时可能会遇到延迟问题,尤其是在需要即时响应的应用中。边缘计算作为一种新兴的技术趋势,旨在通过将计算资源更靠近数据源来解决这个问题。本文将探讨如何将人工智能(AI)技术与边缘计算结合,以实现高效的实时数据分析和决策制定。
232 1
|
6月前
|
人工智能 边缘计算 安全
边缘计算与AI的融合:未来智能系统的关键
【5月更文挑战第24天】随着人工智能(AI)和物联网(IoT)技术的迅猛发展,数据的产生和处理需求呈指数级增长。边缘计算作为一种新兴的分布式计算范式,旨在通过在数据生成的源头即边缘设备上进行数据处理,来降低延迟、提高效率并保护隐私。本文探讨了边缘计算与AI技术结合的必要性,分析了其在实现智能化系统方面的优势,并讨论了在融合过程中面临的挑战及潜在的解决方案。
|
6月前
|
传感器 边缘计算 人工智能
边缘计算在AI时代的应用与挑战
【5月更文挑战第29天】 随着人工智能技术的飞速发展,数据处理需求日益增长,传统的云计算中心已难以满足即时性、安全性及带宽效率的要求。边缘计算,作为一种新兴的分布式计算模式,将数据处理任务迁移至网络的边缘,即数据产生的源头附近,从而减少数据传输距离和时间延迟,提高系统响应速度。本文探讨了边缘计算在人工智能领域的应用,分析了其面临的主要技术挑战,并提出了可能的解决方案。
|
6月前
|
存储 边缘计算 人工智能
边缘计算在AI时代的关键技术演进
【5月更文挑战第29天】随着人工智能技术的飞速发展,数据处理需求日益增长。边缘计算作为一种新兴的计算模式,将数据处理和存储从中心云转移到网络的边缘,更接近数据产生的源头。本文聚焦于边缘计算在AI领域的应用及其技术演进,探讨了其在提高响应速度、降低带宽成本及增强数据隐私方面的重要性。通过分析当前边缘计算的技术挑战与未来趋势,旨在为读者提供一个全面的理解框架。
|
6月前
|
人工智能 边缘计算 算法
边缘计算与AI:推动物联网的未来发展
【2月更文挑战第14天】 在这篇文章中,我们将探讨边缘计算和人工智能(AI)如何共同推动物联网(IoT)的发展。边缘计算是一种新兴的计算模式,它将数据处理和分析从云端转移到网络的边缘,即数据产生的源头。这种模式可以降低延迟,提高数据处理效率,并保护用户隐私。而AI则可以通过学习和优化算法,提高数据处理的准确性和效率。这两者的结合,为物联网的发展提供了强大的技术支持。
|
6月前
|
边缘计算 人工智能 监控
Neousys宸曜科技强固型Jetson AGX Orin边缘计算平台,赋能视觉边缘计算AI推理应用
工业级强固型嵌入式平台厂商Neousys宸曜科技发布了新的NVIDIA Jetson无风扇嵌入式计算平台NRU-220S系列。NRU-220S系列搭载了Jetson AGX Orin 32GB/ 64GB系统模块(SOM),并以一系列综合的工业设计体现了Neousys宸曜科技的强固DNA,不仅能提供高达275(具有稀疏性)INT8 TOPS人工智能算力,还支持-25°C至70°C宽温范围运行,非常适用于部署在路侧、车载、食品生产线或多粉尘环境的工厂,用于智能视频分析、监控或检测应用。
|
边缘计算 人工智能 物联网
物联网未来展望:5G、AI与边缘计算的融合之路
本篇详细探讨了物联网领域的未来展望,包括5G与物联网的融合、人工智能在物联网中的应用,以及边缘计算与物联网的发展趋势。通过代码示例,读者可以了解如何利用5G网络进行物联网设备间的高效数据传输,以及如何应用人工智能技术进行智能感知和数据分析。此外,我们还介绍了边缘计算在物联网中的重要作用,以及如何在边缘设备上进行数据处理和分析。通过本篇内容,读者将对物联网未来的技术发展有更全面的认识,为把握物联网领域的机遇提供有益的前瞻性指导。
451 0
|
人工智能 边缘计算 监控
【年终特辑】看见科技创新力量 洞见时代创业精神—智能制造—方柚科技:AI视觉技术+边缘计算,打造工业安全生产智能管理新模式
【年终特辑】看见科技创新力量 洞见时代创业精神—智能制造—方柚科技:AI视觉技术+边缘计算,打造工业安全生产智能管理新模式
171 0

热门文章

最新文章