DPU时代,来NVIDIA DOCA 中国开发者社区共同探索未来

简介: 虽然还很“年轻”,名气还不够“出圈”,但 DPU(Data Processing Unit)当下发展迅速,正在成为以数据为中心的加速计算模型的第三个计算单元:CPU 用于通用计算,GPU 用于加速计算,DPU 则进行数据处理。CPU、GPU、DPU 正在成为未来数据中心的三大支柱。

DPU & DOCA

 

CPU、GPU,凡是对电脑技术有一点了解的朋友应该都不陌生,但你听过 DPU 吗?

 

虽然还很“年轻”,名气还不够“出圈”,但 DPU(Data Processing Unit)当下发展迅速,正在成为以数据为中心的加速计算模型的第三个计算单元:CPU 用于通用计算,GPU 用于加速计算,DPU 则进行数据处理。CPU、GPU、DPU 正在成为未来数据中心的三大支柱。

相比于过去什么都扔给 CPU 来处理,DPU 的目标更专注于数据处理,以达到更高的运行速度和更高的安全性。其应用场景主要为网络、存储和安全。

 

比如一个网络游戏,CPU 只处理游戏的玩法逻辑,画面渲染由 GPU 来运算,而网络传输、加密、身份验证、数据存储等任务就交由 DPU 来处理,那么就可以提供更高的性能和更好的用户体验。

 

但是,如果没有软件,芯片就只是昂贵的沙子。

 

所以,为了加速数据中心的部署,支持广大开发者在 DPU 上进行软件开发,NVIDIA 为 DPU 量身打造了一个软件开发套件 — DOCA(Data Center Infrastructure on a Chip Architecture)。

 

开发人员能够利用行业标准的 API 在 NVIDIA BlueField DPU 上快速创建对网络、存储、安全、管理以及AI / HPC的一系列应用程序和服务。DOCA SDK 支持多种操作系统, 包含驱动程序、库、示例代码和相应文档,大大简化了开发流程。

 

DOCA 生态

 

如今的计算机行业早已不是一家公司可以撑起一个领域的时代,开放、兼容、合作、共赢才是把蛋糕做大的正确方式。因此 DOCA 的定位不仅仅是一个芯片软件开发套件,而是一整个生态。

 

NVIDIA 正与领先的全球平台供应商和合作伙伴合作,如 Juniper、Excelero、VMWare、Palo Alto 等,共同整合并扩展基于 NVIDIA BlueField DPU 及 NVIDIA DOCA 软件架构的解决方案。开发者们则获得了丰富的开发资源,可通过 NVIDIA DOCA 1.2 在零信任安全、Morpheus 人工智能安全、边缘网络服务平台、高速分布式存储等场景进行应用开发。

 

对于一个技术生态来说,最重要的“资源”还是人。只有众多开发者的不断参与,才能让一个技术生态可持续发展。

 

因此,NVIDIA 于2021年6月发布了 NVIDIA DOCA 中国开发者社区。截止目前,已有近千名开发者注册了 DOCA 开发者抢先体验计划,占全球注册量的近一半,并且还在持续壮大中。

 

1月13日,NVIDIA DOCA 中国开发者社区发展在线研讨会圆满落幕。NVIDIA DOCA 中国开发者社区核心团队及 NVIDIA 核心合作伙伴代表一同参会,共同探讨了 NVIDIA BlueField DPU 产品及 NVIDIA DOCA 软件开发架构在云端、数据中心及边缘应用场景的业务应用,并深度聚焦 DOCA 开发者在消费互联网、网络安全和高等教育等重点行业的开发资源与能力提升需求,倾心设计 DOCA 中国开发者社区的发展规划。

 

DPU & DOCA 卓越中心

 

由于 DPU 和 DOCA 的重要性,以及其在中国开发者中展现的巨大应用潜能,NVIDIA 竭尽所能为国内开发者提供资源和支持。面对中国本地没有 DPU 的DOCA 开发环境问题,NVIDIA 选择了丽台(上海)信息科技有限公司和上海信弘智能科技有限公司两家合作伙伴设立首批的 NVIDIA 授权合作伙伴 DPU & DOCA 卓越中心,为开发者提供本地的 DOCA 开发软硬件环境。

 

作为 NVIDIA 的核心合作伙伴,两家公司对于 NVIDIA 的产品技术和解决方案有着长期深入的了解,特别是在云端、数据中心及边缘的深度学习应用方面具有丰富的经验,此外还是 NVIDIA 深度学习培训中心(DLI)和合作伙伴培训方面的重要伙伴。

两家合作伙伴作为 NVIDIA 授权合作伙伴 DPU & DOCA 卓越中心的首批成员,从即日起分别设立 DPU & DOCA 卓越中心并展开试运营。在试运营期间,每家合作伙伴将自主构建和运营基于 NVIDIA BlueField-2 DPU 的 DPU & DOCA 虚拟开发平台,建立起第三方 DPU 开发环境,为 DOCA 中国开发者提供在线实践的开发环境,并与 NVIDIA 一道构建 DPU 和 DOCA 生态体系。

 

共同成长

 

对于正在进行 DPU 开发或打算涉足此领域的开发者来说,DOCA 开发者社区提供了丰富的学习资源和交流机会。

 

2021年下半年以来,NVIDIA 成功举办了三次 DOCA 开发者线上训练营,向广大开发者详细介绍了 NVIDIA BlueField DPU 和 DOCA 在现代数据中心的应用和未来的技术演进,深度解读了 NVIDIA DOCA 软件开发套件的软件栈、开发环境、开发资源、开发指南和应用案例,吸引了超过3500名开发者参与并互动。在最新一期的训练营中,NVIDIA 在 GTC 2021 秋季大会上发布的 DOCA 1.2 软件开发套件新服务和零信任安全、云原生超级计算解决方案等新应用引起了热烈关注。同时,NVIDIA 在社交媒体及知识社区发布的关于 NVIDIA BlueField DPU 及 NVIDIA DOCA 软件开发套件的技术资讯和成功故事,受到众多开发者及业内人士的好评。

 

在2022年,NVIDIA 还将继续推出丰富的 DOCA 开发者发展计划,DOCA 黑客松(Hackathon)比赛就是其中之一。继欧洲和北美相继举办了 DOCA 开发者黑客松比赛之后,NVIDIA 预计将在2022年第二季度举办中国首场春季 DOCA 开发者黑客松比赛。在比赛之前,NVIDIA 会先举办一场 DOCA 开发者线上训练营,向参赛者介绍 BlueField DPU 和 DOCA 编程技巧。

 

NVIDIA 将邀请来自合作伙伴、客户以及学术界的开发者团队参赛,参赛团队将在 NVIDIA 专家导师的指导下学习、协作并加速他们软件设计,选择在高性能网络、虚拟化、网络安全、分布存储、加速人工智能、边缘计算和视频流处理等方面基于 NVIDIA BlueField DPU 和 NVIDIA DOCA 1.2 进行创新性、突破性软件项目开发,引领 DOCA 中国开发者社区创建革命性的数据中心基础设施应用和服务。最后,NVIDIA 将通过评审,对优异的创新团队进行奖励。

 

通过黑客松的形式共同学习、共同参与项目、共同分享经验,这种方式对于开发者的成长是十分高效的。此外,DOCA 开发者社区和卓越中心在2022年还将提供更多资源,如注册 NVIDIA DOCA 开发者抢先体验计划、DOCA 软件开发套件文档、DPU 用户指导文档和免费线上培训等,为不同阶段的开发者提供支持。

 

相信通过 DOCA 开发者计划的实施,可以有效推动 DOCA 中国开发者社区的发展,促进 DOCA 开发者的人才培养与能力提升,使基于 BlueField DPU 和 DOCA 软件开发套件的解决方案具有更出色的性能优势和更短的上市时间,为客户和合作伙伴创造更大的价值。

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
19天前
|
人工智能 自然语言处理 PyTorch
基于openi平台免费华为昇腾910B芯片部署qwen2.5 Instruct 14B大模型
基于OpenI平台和华为昇腾910B芯片,本方案详细介绍了如何免费部署Qwen-2.5 Instruct 14B大模型。涵盖准备工作、模型适配、部署步骤及性能优化等内容,适用于NLP任务部署、本地化适配及实时服务化等多种应用场景。
193 0
|
7月前
|
弹性计算 负载均衡 Cloud Native
全球首发!龙蜥社区助力 Intel SPR 加速器上云
经典云原生应用 Envoy在新一代 Intel SPR 平台上将会碰撞出怎样的火花?
|
存储 人工智能 安全
探秘英伟达显卡的制造之路 | 英伟达断供GPU,中国大模型何去何从?
在当今时代,人工智能技术正以前所未有的速度发展,推动着各个领域的创新与变革。作为人工智能技术的核心引擎之一,高性能GPU扮演着至关重要的角色。在这个领域,英伟达的H100无疑是一款备受瞩目的高端产品。它针对高性能计算和人工智能应用而设计,具备强大的计算能力和高内存容量,以及先进的互连技术,可以有效提升集群中的计算效率,加速深度学习、计算机视觉、自然语言处理等领域的AI训练和推理任务。
|
机器学习/深度学习 人工智能 自动驾驶
教主黄仁勋亮相GTC China:英伟达已售出15亿块GPU!重磅发布TensorRT 7
又到了一年一度的英伟达GTC China大会,NVIDIA创始人兼CEO黄仁勋和大家分享了英伟达取得的成绩:NVIDIA已经售出15亿块GPU,并重磅发布TensorRT 7,以及支持L2-L5自动驾驶的系统级芯片Orin。
224 0
教主黄仁勋亮相GTC China:英伟达已售出15亿块GPU!重磅发布TensorRT 7
|
人工智能 自动驾驶 大数据
华为计算战略揭晓:开放鲲鹏主板,推出开发套件,发布系列最强算力AI计算产品
华为在 HC 大会上发布的「全球最快 AI 训练集群」Atlas 900 引起了人们广泛关注。这仅仅是华为智能计算在全联接大会上新产品发布的开始,华为昨天推出的鲲鹏服务器主板、鲲鹏台式机主板,以及全球最强 AI 训练卡 Atlas 300、AI 训练服务器 Atlas 800 等产品,让我们再次见证了这家公司的研发实力。
473 0
华为计算战略揭晓:开放鲲鹏主板,推出开发套件,发布系列最强算力AI计算产品
|
存储 机器学习/深度学习 人工智能
进军Arm服务器,携手微软开启云超算,这是英伟达黄仁勋的「超算已来」
在刚刚正式开幕的国际超级计算机大会(SC2019)上,英伟达 CEO 黄仁勋宣布了三项重大的产品信息:基于 GPU 加速器的 Arm 服务器、可在微软 Azure 云服务上使用的 GPU 加速型超级计算机 NDv2 以及几分钟即可实现数据移动的 Magnum IO 软件套件。
175 0
进军Arm服务器,携手微软开启云超算,这是英伟达黄仁勋的「超算已来」
|
机器学习/深度学习 弹性计算 计算机视觉
阿里云牵手英伟达推出初创加速计划,算力触手可得
“阿里云×英伟达初创加速计划”为初创企业提供触手可得的算力,有效缓解计算压力,提升业务效率,助力提高企业竞争力。
|
机器学习/深度学习 人工智能 自动驾驶
AI性能最高提升20倍 阿里云新一代GPU云服务器亮相 搭载NVIDIA A100
阿里云新一代GPU计算实例,为企业提供超强算力!
AI性能最高提升20倍 阿里云新一代GPU云服务器亮相 搭载NVIDIA A100
|
芯片 异构计算 AI芯片
阿里第一颗芯片问世,平头哥发布最强AI芯片含光800
阿里巴巴第一颗自研芯片正式问世。9月25日的杭州云栖大会上,达摩院院长张建锋现场展示了这款全球最强的AI芯片——含光800。在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。
15000 0
|
人工智能 数据挖掘 芯片
专访阿里云异构计算负责人:异构计算,GPU、FPGA、ASIC芯片将三分天下
张献涛表示,“随着FPGA的生态环境的建立和完善、ASIC芯片的逐渐成熟,未来异构计算领域会呈现GPU、FPGA、ASIC芯片三分天下的局面,GPU、FPGA、ASIC芯片都会有自己独特的特长和应用领域。”
17058 0