英伟达企业型AI服务升级:AI LaunchPad计划开放软硬件即时访问,Fleet Command平台助力边缘AI管理

简介: 当今时代,AI 无处不在,对于企业来说更是如此。企业有时想要在混合云业务中加入 AI 功能,有时又想要发挥边缘计算的效用,但自身 AI 基础设施无法提供支持怎么办呢?英伟达新推出的面向企业的即时 AI 基础设施 AI LaunchPad 以及 20 年提出、现已全面上市的托管型边缘 AI 服务平台 Fleet Command 将加速其他企业的 AI 开发和部署,扩展他们的边缘 AI 服务。

随着从信息时代迈入智能时代,人工智能(AI)在这一过程中发挥着无可比拟的重要作用,成为当前和未来企业发展中最关键的技术之一。但应看到,在企业的生产与运营过程中,AI 依然面临着「被误解」和「管理不善」的困境。此前,全球分析软件公司 FICO 和市场情报公司 Corinium 联合发布的一份报告显示:近 65% 的受访企业无法解释它们使用的 AI 如何做出决策或预测。因此,相关知识的缺失导致这些企业很容易误用或滥用 AI。


在这种情况下,企业在部署自身 AI 基础设施和启动 AI 开发时将不可避免地遇到困难,并且有可能耗费大量资源也无法很好地达到预期目标。这时,如果企业可以通过其他方提供的 AI 基础设施和软件来快速实现自身扩展 AI 部署的目标,这样既省时又省力。


芯片巨头英伟达一直致力于为客户提供端到端的 AI 基础设施软件栈,并希望成为其他企业 AI 平台的供应商。


近日,英伟达推出了 NVIDIA AI LaunchPad,这是一个通过混合云供应商提供的综合计划,企业能够即时访问由英伟达提供的基础设施和软件。AI LaunchPad 将率先部署在全球数据中心「领头羊」Equinix 上,客户可以访问托管在 Equinix 上的安全、分布式和混合云优化的私有基础设施。

微信图片_20211205154928.jpg


此外,客户还可以通过 AI LaunchPad 利用顶级 IT 解决方案供应商提供的加速软件和硬件,进而能够轻松地扩展和管理从开发到部署的整个 AI 生命周期。Equinix 预计于今年夏天首次提供 AI LaunchPad。


英伟达企业计算负责人 Manuvir Das 表示:「当今企业正在寻找一种既简单又全面的解决方案,让他们可以即时访问所需的资源,从而轻松构建和部署 AI。NVIDIA AI LaunchPad 使全球各地的企业都能够轻松驾驭 AI,为 AI 生命周期的每个阶段提供全自动混合云基础设施和软件。」微信图片_20211205154947.jpg

Manuvir Das


与此同时,英伟达宣布此前推出的管理型边缘人工智慧平台 Fleet Command 全面上市,进入开放使用阶段。该平台可以帮助企业解决在成千上万个地点的 NVIDIA 认证系统上安全部署和管理 AI 应用的难题。


据介绍,Fleet Command 混合云托管服务由英伟达直接提供,可用于配合带有 NVIDIA 认证系统的边缘 AI 部署。该平台的早期采用者包括世界领先的零售、医疗和物流公司以及与它们合作的专业软件公司。


英伟达 AI LaunchPad:加速企业 AI 开发和部署,简化 AI 生命周期

微信图片_20211205155000.jpg


NVIDIA AI LaunchPad 计划包含端到端 NVIDIA 硬件和软件栈,能够从混合云到边缘加速 AI。数字基础设施领导者 Equinix 将首先加入 AI LaunchPad 计划,其将通过 Platform Equinix 平台向全球提供由 NVIDIA 支持的混合云解决方案。


就其效果而言,Equinix 基础设施在几分钟内就能部署完毕,使企业能够访问所有 NVIDIA 为 AI 的几乎每一个方面提供的支持资源,从数据中心训练、推理到边缘上的全面部署。 那么,操作上有没有难度呢?据介绍,通过 AI LaunchPad,Equinix 客户不仅可以在一个类似 AI 开发中心的 NVIDIA Base Command Platform 平台管理的 NVIDIA DGX SuperPOD 上开发先进的 AI 工作负载,还能通过 Base Command Platform 对戴尔和联想等领先制造商的 NVIDIA 认证系统上的主流 AI 工作负载进行管理和部署。这些行业标准服务器建立在 NVIDIA EGX 平台之上,非常适合用于在 VMware vSphere 上运行 NVIDIA AI Enterprise 软件套件,进而部署一个可以在混合云中扩展 AI 的 AI-Ready Enterprise Platform 平台。微信图片_20211205155015.jpg


NVIDIA AI LaunchPad 的重要组件和运行流程示意图。


客户还可以通过 NVIDIA Fleet Command 托管式云服务在 Equinix 的分布式边缘基础设施上安全地部署和管理 AI 应用。该服务今天已与 NVIDIA 认证系统连接并进入供应阶段


加速主流服务器上的 AI


AI LaunchPad 的关键组成部分是 NVIDIA AI Enterprise。这是一套端到端云原生 AI 和数据分析软件,由 NVIDIA 提供优化、支持和独家认证,可在 VMware vSphere 上运行并带有 NVIDIA 认证系统。

微信图片_20211205155030.jpg

图左为 VMware vSphere  + NVIDIA AI-READY 平台;图右为 NVIDIA AI Enterprise 软件套件,涵盖 AI 研究者、数据科学家和开发者使用的 AI 应用、框架和工具。


通过在 NVIDIA 认证系统上运行 AI Enterprise 和 VMware vSphere,企业可以轻松地在 Equinix 数据中心部署 AI,在多个节点上实现近乎裸金属的性能,为大型、复杂的训练和机器学习工作负载提供支持。 VMware 云计算平台业务高级副总裁兼总经理 Krish Prasad 表示:「企业正在寻求能够将 AI 与其现有基础设施轻松整合的解决方案。VMware vSphere 是使 AI 成为企业主流技术的关键。现在,NVIDIA AI LaunchPad 将把我们的 AI-Ready Enterprise Platform 作为一站式解决方案提供给企业,以实现快速部署、管理和扩展 AI 工作负载。」


混合云 AI 全球生态系统


为了建立精确的 AI 模型,应用对分布在公有云和企业私有数据中心的多个外部数据源的访问需求越来越多。在这种主流趋势下,使用 Equinix 等互联枢纽上的 AI LaunchPad,企业可以通过 Equinix Fabric 安全、高速地接入一个由在 Equinix 运营其数字基础设施的企业所组成的生态系统。Platform Equinix 在五大洲 60 多座城市战略性地建立了 220 多个数据中心,这一全球覆盖范围也有助于满足数字企业的实时性能需求。微信图片_20211205155047.jpg

Platform Equinix 的可视化示意图。


对此,Equinix 业务拓展副总裁 Steve Stienhilber 表示:「出于性能、数据隐私、所有权和主权原因,许多行业使用私有云来保有计算资源和数据来降低成本。随着 NVIDIA AI LaunchPad 通过 Equinix 向全球开放提供,企业将能够在一个综合全面的混合云解决方案中即时访问 NVIDIA 软件和 NVIDIA 认证基础设施。」


为各行业提供混合云一站式解决方案


汽车行业是 Equinix 所服务的重要行业之一。全球最大的汽车科技公司之一—大陆集团(Continental)使用托管在 Equinix 数据中心的 NVIDIA DGX 系统为制造商开发自动驾驶汽车技术。 大陆集团高级驾驶辅助系统业务研发高级副总裁 Ismail Dagli 表示:「开发先进的 AI 技术需要大量加速计算基础设施。在 Equinix 数据中心上提供全球可用的 NVIDIA 系统确保了我们的团队始终能够访问他们所需要的资源。在 Equinix 数据中心增加 NVIDIA 支持的 AI 推理和边缘选项是非常有意义的,因为这能够使 AI 从开发阶段进入到生产阶段。」


最后,AI LaunchPad 使用 NVIDIA GPU 和 DPU 提高企业安全性和速度,通过运用由 NVIDIA Ampere 架构 GPU 和 NVIDIA BlueField DPU 驱动的系统,为企业提供加速 AI 工作负载的能力,同时获得 DPU 提供的安全性、隔离性和提升性能的优势。


英伟达 Fleet Command:为企业扩展边缘 AI 服务


微信图片_20211205155102.jpg


近年来,物联网设备连接数呈现出线性增长趋势。人工智能与物联网在实际应用中的落地与融合推动人类社会进入万物智能互联时代,随之产生的数据也将呈井喷式爆发。云计算成功地缓解了日益增长的数据所带来的存储、管理等问题,但云计算面临着带宽不足等问题。这时,边缘计算的出现成为云计算的一种补充和优化。


边缘计算可以理解为边缘侧、靠近终端(例如手机、智能语音交互设备等)的大数据处理,是持续迭代更新的概念。AI 和神经网络等技术的应用和融合使得边缘计算的内核不断创新,赋能了边缘 AI 的落地。随着机器学习、神经网络训练等网络架构和工具不断适配、兼容到嵌入式系统上,越来越多的 AI 应用也可以直接在边缘设备运行,边缘 AI 成为了当下讨论的热点。


在 2020 年 10 月的 GTC 技术大会上,英伟达创始人兼 CEO 黄仁勋宣布了边缘 AI 方面的重大举措:推出一项用于简化服务器 AI 应用部署和管理的 NVIDIA Fleet Command 新服务早期访问计划,通过一个统一的控制平面集中管理分布在广大地区的服务器。


在推出 NVIDIA AI LaunchPad 计划的同时,英伟达也宣布托管型边缘 AI 服务平台 Fleet Command 全面上市,旨在帮助企业解决在成千上万个地点的 NVIDIA 认证系统上安全部署和管理 AI 应用的难题。该平台的远程管理软件让企业在不牺牲边缘计算的实时处理能力的前提下,能够安全发布和管理其 AI 应用。Fleet Command 专为减轻企业 IT 负担而设计,通过让用户能够从中央位置快速安装、更新和管理软件,帮助各处实现 AI 大众化。


NVIDIA Fleet Command 只需几分钟就能完成安装,管理员可使用它添加或删除应用、通过无线网络更新系统软件并监测分布在远距离的设备的健康状况。


微信图片_20211205155117.jpg

NVIDIA Fleet Command 运行流程示意图。


NVIDIA 证系统将 NVIDIA Ampere 架构 GPU 和 NVIDIA 网络整合到领先的 NVIDIA 合作伙伴的服务器中。经过 NVIDIA 认证的系统已配置好能够为边缘 AI 工作负载提供出色的性能,并且针对 Fleet Command 进行优化。


此外,企业从 NVIDIA 订阅的 AI 部署和管理工具可以与作为云托管开发中心的 NVIDIA Base Command 结合使用。这可以使企业能够快速将其 AI 项目从原型推向生产。这些平台使得企业能够快速构思、部署和管理边缘和工业 AI。 NVIDIA 企业计算负责人 Manuvir Das 表示:「在迈向物联网时代的过程中,企业所面临的最复杂的问题之一便是在边缘部署和管理 AI 应用,包括智能工厂、智能零售和智慧城市。NVIDIA Fleet Command 推动整个企业的效率,帮助它们以前所未有的速度扩展边缘 AI。」


应用案例


排名前十的零售物流公司 Bollore Logistics 在全球拥有 700 多个配送中心。该公司正在使用 AI 提高其配送中心的订单执行准确性和速度。同时,该公司也在通过 NVIDIA 合作伙伴 Dematic 和 Osaro 的解决方案,这些解决方案将使用 Fleet Command 来部署及管理其众多地点的 AI 应用。


AI 咨询公司 Data Monsters 是使用 Fleet Command 的十多家早期体验合作伙伴之一。这家 AI 咨询公司正在与全球最大的饮料公司之一合作,为其众多生产设施部署和管理软件,通过计算机视觉捕捉饮料罐的凹痕和褶皱并在出现问题时通知工作人员。 对于 Fleet Command 的体验效果,Data Monsters 工业 AI 负责人 German Suvorov 表示:「Fleet Command 提供统一的大规模计算资源安全部署和管理方法,包括硬件资源配置、部署自动化和监控。它还提供与 NGC (NVIDIA GPU CLOUD) 的整合,NGC 是一个用于应用容器和 DNN 模型的一站式全球私有注册中心。所有这些功能使我们的边缘 AI 应用能够在全球制造基地网络上进行无缝扩展。」


参考链接:https://www.webpronews.com/65-of-companies-cant-explain-how-their-ai-works/https://www.fierceelectronics.com/electronics/nvidia-builds-ai-launchpad-cloud-equinixhttps://www.webpronews.com/nvidias-launchpad-and-fleet-command-further-democratizing-ai/https://venturebeat.com/2021/06/22/nvidia-launches-ai-edge-and-hybrid-cloud-services-to-support-enterprise-workloads/

相关文章
|
4天前
|
人工智能 数据可视化 JavaScript
NodeTool:AI 工作流可视化构建器,通过拖放节点设计复杂的工作流,集成 OpenAI 等多个平台
NodeTool 是一个开源的 AI 工作流可视化构建器,通过拖放节点的方式设计复杂的工作流,无需编码即可快速原型设计和测试。它支持本地 GPU 运行 AI 模型,并与 Hugging Face、OpenAI 等平台集成,提供模型访问能力。
45 14
NodeTool:AI 工作流可视化构建器,通过拖放节点设计复杂的工作流,集成 OpenAI 等多个平台
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
GLM-4V-Flash:智谱 AI 免费开放的图像理解大模型 API 接口
智谱AI推出的GLM-4V-Flash是一款专注于图像理解的免费开放大模型,提供API接口支持用户上传图片URL或Base64编码图片获取详细的图像描述。该模型通过深度学习和卷积神经网络技术,简化了图像分析流程,提高了开发效率,适用于内容审核、辅助视障人士、社交媒体、教育和电子商务等多个应用场景。
88 14
GLM-4V-Flash:智谱 AI 免费开放的图像理解大模型 API 接口
|
14天前
|
人工智能 搜索推荐 开发者
Aurora:xAI 为 Grok AI 推出新的图像生成模型,xAI Premium 用户可无限制访问
Aurora是xAI为Grok AI助手推出的新图像生成模型,专注于生成高逼真度的图像,特别是在人物和风景图像方面。该模型支持文本到图像的生成,并能处理包括公共人物和版权形象在内的多种图像生成请求。Aurora的可用性因用户等级而异,免费用户每天能生成三张图像,而Premium用户则可享受无限制访问。
55 11
Aurora:xAI 为 Grok AI 推出新的图像生成模型,xAI Premium 用户可无限制访问
|
3天前
|
人工智能 大数据 测试技术
自主和开放并举 探索下一代阿里云AI基础设施固件创新
12月13日,固件产业技术创新联盟产业峰会在杭州举行,阿里云主导的开源固件测试平台发布和PCIe Switch固件技术亮相,成为会议焦点。
|
20天前
|
机器学习/深度学习 人工智能 自然语言处理
Voice-Pro:开源AI音频处理工具,集成转录、翻译、TTS等一站式服务
Voice-Pro是一款开源的多功能音频处理工具,集成了语音转文字、文本转语音、实时翻译、YouTube视频下载和人声分离等多种功能。它支持超过100种语言,适用于教育、娱乐和商业等多个领域,为用户提供一站式的音频处理解决方案,极大地提高工作效率和音频处理的便捷性。
91 10
Voice-Pro:开源AI音频处理工具,集成转录、翻译、TTS等一站式服务
|
18天前
|
人工智能 自然语言处理 前端开发
Lobe Vidol:AI数字人交互平台,可与虚拟人和3D模型聊天互动
Lobe Vidol是一款开源的AI数字人交互平台,允许用户创建和互动自己的虚拟偶像。该平台提供流畅的对话体验、丰富的动作姿势库、优雅的用户界面设计以及多种技术支持,如文本到语音和语音到文本技术。Lobe Vidol适用于娱乐互动、在线教育、客户服务、品牌营销和社交媒体等多个应用场景。
76 7
Lobe Vidol:AI数字人交互平台,可与虚拟人和3D模型聊天互动
|
20小时前
|
机器学习/深度学习 人工智能 搜索推荐
AI在电子商务中的个性化推荐系统:驱动用户体验升级
AI在电子商务中的个性化推荐系统:驱动用户体验升级
29 16
|
13天前
|
人工智能 搜索推荐 安全
数百名研发人员用通义灵码,33%新增代码由AI生成,信也科技研发模式焕新升级
目前,信也科技数百名研发人员正在使用通义灵码,周活跃用户占比70%,新增代码中有33%由通义灵码编写,整体研发效率提升了11%,真正实现了数百研发人员开发效能的全面提升。
|
27天前
|
存储 人工智能 弹性计算
阿里云弹性计算(ECS)提供强大的AI工作负载平台,支持灵活的资源配置与高性能计算,适用于AI训练与推理
阿里云弹性计算(ECS)提供强大的AI工作负载平台,支持灵活的资源配置与高性能计算,适用于AI训练与推理。通过合理优化资源分配、利用自动伸缩及高效数据管理,ECS能显著提升AI系统的性能与效率,降低运营成本,助力科研与企业用户在AI领域取得突破。
46 6
|
24天前
|
数据采集 人工智能 DataWorks
限时优惠体验!DataWorks数据治理中心全新升级为数据资产治理
DataWorks进行全面升级,从数据治理中心转型为数据资产治理,强调业务视角下的数据分类与管理,引入Data+AI全链路数据血缘追踪,提升数据质量和安全性,促进跨部门协作。同时,提供限时优惠活动,助力企业高效利用数据资产。
305 1