NVIDIA 发表 Blackwell 架構与 GB200 NVL72：萬億級參数大模型运算怪獸与黃仁勳的算力巨浪

2024 年 3 月 18 日，在美国加州聖荷西 SAP 巨蛋体育馆超過 1.8 萬名科技領袖与全球开发者的震耳歡呼聲中，NVIDIA 執行長黃仁勳登台发表了被譽为人类计算史上最強大的矽晶巨獸 —— 次世代加速计算架構 Blackwell，以及基於該架構的 NVIDIA B200 GPU 与革命性水冷机架系统 GB200 NVL72。这场被全球媒体盛讚为「AI 时代的伍茲塔克音樂節（Woodstock of AI）」的盛会，标誌著人类计算文明正式由百億級參数模型，全面跨入「兆級（Trillion-parameter）多模态即时推理」的全新时代。

雙芯片 10 TB/s 互聯奇蹟：2080 億个电晶体的物理極限

Blackwell 架構以统计学家兼数学家 David Harold Blackwell 命名，因单一矽片已完全達到當前半导体光学微影的物理極限（Reticle Limit），NVIDIA 研发團隊採用了革命性的雙芯片合体架構：

• 雙芯片整合封裝与 2080 億个电晶体： 由台積电 4NP（4nm 終極極限強化版）製程打造，將兩顆原本各自已達到光罩極限的巨大芯片，透過每秒高達 10 TB/s 的 NV-High Performance Interconnect（NV-HPI） 極速雙向接口在封裝內部緊密直連，让软件与开发者完全將其視为单一無縫的超大 GPU！
• 第二代 Transformer Engine 与全新 FP4 精度： 首创微型張量縮放（Micro-tensor Scaling）技术，在硬件層面原生支持 FP4（4 位元浮点） 精度。在維持高保真度的前提下，將兆級參数大模型的运算吞吐提升至前所未有的極限，整顆 B200 芯片輸出高達 20 PFLOPS 的驚人 FP4 算力！
• 192GB HBM3e 内存与 8 TB/s 頻寬： 搭載 8 顆堆疊 HBM3e 内存，提供高達 192GB 的巨量容量与突破天際的 8.0 TB/s 内存傳輸頻寬。

液冷机架 GB200 NVL72：將整个机櫃化为单一超級 GPU

在这场演講中最令全球震撼的工程奇观，莫過於黃仁勳親自推向舞台中央的 GB200 NVL72 水冷机架系统：

1. 36 顆 Grace CPU 搭配 72 顆 Blackwell GPU： 整座高度超過兩公尺的服务器机櫃，整合了 36 顆 Grace CPU 与 72 顆 B200 GPU，全部採用先进的全封閉式液体冷卻（Liquid Cooling）系统散熱。
2. 第五代 NVLink 銅纜全互聯网絡： 机櫃背部配置了近兩英里長的密集銅纜与 9 顆巨型 NVLink Switch 芯片，以高達 130 TB/s 的雙向雙向頻寬將 72 顆 GPU 完全互連为单一巨型 GPU，具備高達 30TB 的超高速共享内存池！
3. 訓練萬億參数大模型：耗电減少至 1/25： 在訓練擁有 1.8 兆參数的大型多模态模型时，過去需要动用 8000 顆 Hopper H100 GPU、消耗 15 兆瓦（MW）电力运作 90 天；如今只需 2000 顆 Blackwell GPU 即可在相同时间內完成訓練，消耗电力更暴降至僅僅 4 兆瓦（1/25）！

历史回顧：全球超大规模算力集群的全新物理标準

Blackwell 架構与 GB200 NVL72 的发表，徹底重塑了全球 AI 資料中心的物理形态。包括微軟、亞馬遜 AWS、Google Cloud、Meta、甲骨文、特斯拉以及 OpenAI，第一时间宣布全线预订並建设基於 Blackwell 的下一代萬卡、十萬卡超算中心。黃仁勳以無与倫比的工程執行力，再次为全人类的通用人工智能（AGI）进程，鋪下了最堅固的算力跑道。