英伟达最强 AI 芯片、人形机器人模型炸场！黄仁勋放言英语将成最强大编程语言-阿里云开发者社区

北京时间凌晨4点，天还未亮，美国加利福尼亚州圣何塞SAP中心内已是星光璀璨。聚光灯打在黄仁勋的身上，英伟达的技术盛宴GTC 2024吸引了全世界的目光。AI科技大本营带你直击英伟达GTC2024现场。

“我希望你们意识到，这不是一场音乐会，你们来参加的是一场开发者盛会。”黄仁勋在开场时说道。

史上最强AI芯片

新一代AI图形处理器被命名为Blackwell。该GPU平台以数学家David Harold Blackwell命名。据英伟达称，Blackwell架构系列芯片是迄今为止功能最强大的AI芯片系列。

（黄仁勋展示继Hopper之后的Blackwell）

据黄仁勋介绍，B200拥有2080亿个晶体管（而 H100/H200 上有 800 亿个晶体管），采用台积电4NP工艺制程，可以支持多达10万亿个参数的 AI 模型，而 OpenAI 的 GPT-3 由 1750 亿个参数组成。它还通过单个 GPU 提供20 petaflops（每秒千万亿次浮点运算）的AI性能——单个H100最多可提供 4 petaflops的AI计算。

Blackwell GPU 很大。Blackwell B200并不是传统意义上的单一GPU。它由两个紧密耦合的芯片组成，这两个芯片通过10 TB/s NV-HBI（即Nvidia高带宽接口）进行连接，以确保它们能够作为单个一致的芯片正常运行。

Blackwell架构在 AI 安全方面又向前迈进了重要一步。Blackwell通过100%系统内自测试RAS服务和全性能加密提供安全的AI，也就是说数据不仅在传输过程中安全，而且在静止状态和计算时也安全。

GB200将两个B200 Blackwell GPU与一个基于 Arm的Grace CPU 配对。在具有 1750 亿个参数的 GPT-3 基准测试中，英伟达表示 GB200 的性能是 H100 的 7 倍，训练速度是 H100 的 4 倍。

英伟达没有提供新 GB200 以及所使用的系统成本。据分析师估计，Nvidia基于Hopper的 H100 每个芯片的成本在 2.5万美元到 4万美元之间，整个系统的成本高达20万美元。

亚马逊、谷歌、微软和甲骨文将通过云服务出售 GB200 的访问权限。英伟达表示，AWS、戴尔科技、谷歌、Meta、微软、OpenAI 和特斯拉计划使用 Blackwell GPU，其中亚马逊网络服务将构建一个包含 2万个 GB200 芯片的服务器集群。

英伟达表示，该系统可以部署27万亿参数的模型。这甚至比最大的模型（例如 GPT-4）还要大得多，据报道 GPT-4 有 1.7 万亿个参数。许多人工智能研究人员认为，具有更多参数和数据的更大模型可以释放新功能。

“生成式人工智能是我们这个时代的决定性技术，”黄仁勋在演讲时表示，“Blackwell GPU 是推动这场新工业革命的引擎。与世界上最具活力的公司合作，我们将实现人工智能对每个行业的承诺。”

新配套设备为AI芯片保驾护航

英伟达还发布了 GB200 NVL72 液冷机架系统，其中包含 36 颗 GB200 Grace Blackwell 超级芯片，拥有 1440 petaflops（又名 1.4 exaflops）的推理能力，它内部有近两英里长的电缆，共有 5000 根单独的电缆。

英伟达表示，与用于推理用途的相同数量的 H100 Tensor Core 图形处理单元相比，GB200 NVL72 性能提升高达 30 倍。此外，该系统还可将成本和能耗降低多达 25 倍。

例如，训练一个 1.8 万亿参数模型之前需要 8000 个 Hopper GPU 和 15 兆瓦的功率。如今，只需要 2000 个 Blackwell GPU 就可以做到这一点，而功耗仅为 4 兆瓦。

此外，英伟达称还将推出一款名为 HGX B200 的服务器主板，它基于在单个服务器节点中使用 8个B200 GPU和一个x86 CPU（可能是两个 CPU）。每个B200 GPU 可配置高达1000W，并且 GPU 提供高达 18 petaflops 的 FP4 吞吐量，因此比 GB200 中的GPU慢10%。

目前，企业客户可以通过 HGX B200 和 GB200（将 B200 GPU 与英伟达的 Grace CPU 结合在一起）访问 B200。

首款人形机器人模型

英伟达还发布了人形机器人通用基础模型Project GROOT，希望通过发布这个新API集合 Project GROOT来推动人形机器人的开发。黄仁勋表示：“这是AI领域中最令人兴奋的课题之一。”

Project GROOT 是一个人形机器人模型，与 Jetson Thor 一起生产。Jetson Thor 是一款 SoC，也是 Nvidia Isaac的升级版。英伟达表示，GROOT 机器人将理解自然语言并模仿人类动作来学习灵活性。Jetson Thor 运行基于 Blackwell 的 GPU，可在 8 位数据处理中提供 800 teraflops 的 AI 性能。

GROOT驱动的机器人将能够理解自然语言，并通过观察人类行为来模仿动作。其能快速学习协调各种技能，具备更好的灵活性，以适应现实世界并与之互动。在黄仁勋的演讲中，他通过视频展示了数台这样的机器人是如何完成各种任务的。

其中包括医疗和物流搬运、分拣用的机械臂，以及可以做打果汁等家务的人形家用机器人，还有的机器人可以模仿人类打架子鼓，也能够从视频中学习人类的舞蹈动作并进行模拟。基于大语言模型，有的人形机器人还可以理解人类的口头指令，并做出回应。

英伟达正在为人形机器人公司开发一个综合的AI平台，如1X Technologies、Agility Robotics、Apptronik、波士顿动力公司等等。

（来到演讲现场的迪士尼机器人Green）

“下一代机器人很有可能是人形机器人，因为我们有更多的模仿训练数据可以提供给和我们构造相似的机器人们。人形机器人可以更有效率地部署在人类设计的工作站、制造和物流环节中。”黄仁勋说。

推理微服务NIM

在GTC 2024上，英伟达还推出了名为NIM（Nvidia Inference Microservice）的推理微服务。该软件将使人工智能的部署变得更加容易。英伟达高管表示，该公司正在不再是一个唯利是图的芯片提供商，而更像是一个平台提供商，就像微软或苹果一样，其他公司可以在平台上构建软件。

NIM 使使用旧版 Nvidia GPU 进行推理或运行人工智能软件的过程变得更加容易，并将允许公司继续使用他们已经拥有的数亿个 Nvidia GPU。与新人工智能模型的初始训练相比，推理所需的计算能力更少。NIM 使想要运行自己的 AI 模型的公司能够使用，而不是从 OpenAI 等公司购买 AI 结果作为服务。

英伟达将与微软或 Hugging Face 等人工智能公司合作，确保他们的人工智能模型能够在所有兼容的英伟达芯片上运行。然后，使用 NIM，开发人员可以在自己的服务器或基于云的英伟达服务器上高效地运行模型，而无需冗长的配置过程。

英伟达表示，该软件还将帮助人工智能在配备 GPU 的笔记本电脑上运行，而不是在云端服务器上运行。

“Hopper 太棒了，但我们需要更大的 GPU。”黄仁勋加在开发者大会上表示，“Blackwell 不是芯片，而是一个平台的名称。”

（黄仁勋展示Blackwell架构的平台能力）

此前，英伟达副总裁Manuvir Das在接受采访时表示。“可销售的商业产品是GPU，而软件都是为了帮助人们以不同的方式使用 GPU，当然，我们仍然这样做。但真正改变的是，我们现在真正拥有了商业软件业务。”Das表示，Nvidia的新软件将使在任何 Nvidia GPU 上运行程序变得更加容易，甚至是那些可能更适合部署但不适合构建人工智能的旧 GPU。

Das说：“如果你是一名开发人员，你有一个有趣的模型，希望人们采用，如果你将它放入 NIM 中，我们将确保它可以在我们所有的 GPU 上运行，这样你就能接触到很多人。”