NVIDIA 宣布推出新一代超級晶片黃仁勳強調「GH200是世界上最快的」

| Johannes | 12-08-2023 08:04 |

日前在洛杉磯舉辦的SIGGRAPH 2023活動中，NVIDIA宣布即將推出名為GH200的下一代Grace Hopper Superchip。計劃在2024年第二季正式推出，今年底可提供樣品，但未有公布價格。NVIDIA的創辦人黃仁勳特別強調GH200將成為全球速度最快的晶片。GH200是一款標榜全球首個支持HBM3e技術的GPU產品，旨在加速運算和生成式人工智慧應用。該晶片專為處理複雜的生成式人工智慧工作負載而設計，包括處理大型語言模型、推薦系統和向量資料庫等應用場景。

↓↓↓同場加映：【e+同你試】菲林攝影入門攻略：菲林篇實測 LomoChrome Color ‘92 拍攝效果↓↓↓

即刻【按此】，用 App 睇更多產品開箱影片

GH200 Grace Hopper Superchip，計劃在2024年第二季正式進入市場，擁有一系列令人期待的特點。該晶片包含72組核心設計的Grace CPU和支援4PFLOPS運算表現的Hopper GPU。不僅如此，GH200還是首款採用HBM3e記憶體設計的加速元件，總共搭載141GB的HBM3e記憶體容量，每秒可實現5TB的資料傳輸速度。相較於搭載HBM記憶體的H100，GH200的記憶體容量增加了1.7倍，而傳輸頻寬更是提升了1.5倍。這些特點使得GH200 Grace Hopper Superchip成為引人矚目的產品。

此外，GH200 Grace Hopper Superchip在資料傳輸方面還搭載了全新一代的NVLink設計。這種設計可以將兩組GH200 Grace Hopper Superchip串接在一起，形成具有144組核心設計的Grace CPU，以及達到8PFLOPS計算能力的Hopper GPU。同時，它還能將HBM3e記憶體容量增加至282GB，每秒可實現10TB的資料傳輸速度。相比於H100，這使得記憶體容量增加了3.5倍，傳輸頻寬增加了3倍，甚至可以支援高達1.2TB的容量。如果結合堆疊和NVLink串接的特性，NVIDIA強調256組GH200 Grace Hopper Superchip也可以以SuperPod的形式建構超級電腦，其計算能力可達1 EFLOPS，記憶體容量高達144TB。

如果以1億美元的預算來建構一個系統，在使用8800組x86架構的CPU執行Llama 2人工智慧模型、Vector DB向量資料庫和SDXL人工智慧圖像生成模型所需的計算能力作為基準（1倍），並且在限制電力損耗為5兆瓦的情況下，使用2500組GH200 Grace Hopper Superchip的超級電腦可以實現12倍的計算能力。同時，電力消耗也降低到3兆瓦。相比僅使用CPU運算模式，這種配置可提供高達20倍的能源使用效率。