NVIDIA 发表 Volta 架構与 Tesla V100：首度引入专用 Tensor Core 張量核心，开啟现代 AI 运算紀元

2017 年 5 月 10 日，在加州聖荷西舉辦的 GTC 年度大会上，NVIDIA 執行長黃仁勳发表了半导体史上最具顛覆性、耗資超過 30 億美元研发的全新运算架構 —— Volta，以及基於該架構的極致运算芯片 Tesla V100 GPU。这场演講被視为现代人工智能算力演进的「寒武紀大爆发」：NVIDIA 在芯片矽晶層面正式引入了劃时代的专用硬件运算单元 —— Tensor Core（張量核心），將深度学習的矩陣运算效率提升了整整一个数量級。

815 mm² 物理極限：半导体光罩極限下的工藝奇蹟

Tesla V100 是台積电专屬 12nm FFN 製程下的極致結晶，芯片芯片面積高達 815 mm²，幾乎完全觸及了现代半导体光刻设備的「光罩尺寸極限（Reticle Limit）」：

• 211 億个电晶体：在单一矽片上整合了 5120 个 CUDA 核心与 640 个专用 Tensor Core。
• 首度引进第二代高頻寬内存（HBM2）：透過台積电 CoWoS 2.5D 先进封裝技术，將 16GB（後續擴增至 32GB）HBM2 顆粒与 GPU 核心封裝在同一塊中介層上，提供突破性的 900 GB/s 内存頻寬。
• 第二代 NVLink 互聯架構：互聯頻寬激增至 300 GB/s，比 PCIe Gen3 快上近 10 倍，允許 8 顆甚至 16 顆 V100 组成完全無阻抗的超算网絡。

Tensor Core：为深度学習矩陣乘法量身打造的专用火箭

Volta 架構最深遠的遺產，莫過於首创的 Tensor Core。傳统 GPU 的 CUDA 核心一次只能執行单个标量运算（如 A × B + C），而深度学習的本质是海量的矩陣乘加运算（GEMM）：

• 每个 Tensor Core 每个时脈週期可執行一次 4×4×4 的矩陣乘加运算（$D = A \times B + C$），輸入为 FP16 半精度、累加为 FP32 单精度以确保数值穩定性。
• 整顆 Tesla V100 芯片可提供高達 125 TFLOPS 的混合精度 Tensor 运算力，相當於前代 Pascal 架構的 5 倍，相當於 100 顆傳统服务器 CPU 的运算吞吐！
• Google 隨即將 Tesla V100 大规模部署於 Google Cloud，微軟、亞馬遜 AWS 等云端巨头紛紛以 V100 作为其頂級 AI 基礎设施的核心主力。

獨立整数与浮点管线（Independent Thread Scheduling）

除了 Tensor Core，Volta 還重構了底層執行緒調度架構，导入獨立的整数（INT32）与浮点（FP32）运算管线。这使得 GPU 能夠在同一时脈週期內同时執行複雜的陣列位址计算与科学浮点计算，解決了困擾並行程序设计多年的分支发散（Branch Divergence）效率折損問题。

历史回顧：确立 NVIDIA 在 AI 算力市场的絕对壟斷

Volta 架構与 Tesla V100 的問世，是 NVIDIA 从「用图形芯片做计算」徹底蛻变为「专为 AI 打造专用计算巨獸」的決定性里程碑。Tensor Core 的确立，让全球各大深度学習研究机構、科技巨头的算法设计全面向混合精度矩陣运算收斂。从这一天起，NVIDIA 在全球人工智能訓練算力市场的统治級霸权，正式鑄造成型。