NVIDIA 行政總裁黃仁勳在台北國際電腦展（Computex）開幕演講中，介紹人工智能（AI）的發展藍圖，並首次向全球宣布推出全新設計的「RTX PRO 伺服器」平台。此平台定位為企業級及工業級AI運算的核心基建，為要求最嚴苛的AI工作負載提供前所未有的運算能力。
新發布的 RTX PRO 伺服器設計極具擴展性，其一大亮點是能夠配置多達八張 NVIDIA 最新的 RTX PRO 6000 Blackwell 伺服器版本專業顯示卡。每張顯示卡均採用先進的 GB202 核心晶片，內建高達 24,064 個 CUDA 核心以及 96GB 的 GDDR7 高速記憶體，並配備 512-bit 記憶體匯流排。
Blackwell 架構核心 運算力直迫 30 PFlops
在八卡配置下，整套 RTX PRO 伺服器系統將合計擁有接近二十萬個 CUDA 運算核心，以及高達 800GB 的總視訊記憶體容量，總記憶體頻寬更達到每秒 13TB。為確保多張顯示卡之間數據傳輸暢通無阻，系統採用 ConnectX-8 SuperNIC Switch 進行高速互連，提供全向高達每秒 800GB 的頻寬，有效消除傳輸瓶頸。
據 NVIDIA 公布的數據，在 FP4 數據格式下，這款伺服器的 AI 運算性能高達 30 PetaFLOPS（即每秒3億億次浮點運算），而其圖形渲染性能亦達到 3 PetaFLOPS（每秒3千萬億次浮點運算）。NVIDIA 強調，憑藉這樣的運算能力，企業將能輕鬆運行各種「滿血版」的大型AI模型，加速複雜AI應用的開發與部署。然而，強勁性能亦伴隨著高功耗，單張 RTX PRO 6000 顯示卡的功耗為 600W，八卡配置下單是顯示卡的功耗已接近 4800W，若再加上中央處理器（CPU，具體型號未詳）及其他元件，整機功耗預計將超過 5000W。
OEM/ODM 夥伴齊撐 打造AI強勁基建
NVIDIA 已有多家全球知名的 OEM（原設備製造商）及 ODM（原設計製造商）合作夥伴宣布將陸續推出基於 RTX PRO 伺服器設計的產品。當中包括思科（Cisco）、戴爾（Dell）、慧與（HPE）、聯想（Lenovo）、研華（Advantech）、華擎（ASRock）、仁寶（Compal）、富士康（Foxconn）、技嘉（Gigabyte）、神達（MiTAC）、微星（MSI）、和碩（Pegatron）、緯創（Wistron）、超微（Supermicro）、英業達（Inventec）、廣達（Quanta）、華碩（ASUS）以及緯穎（Wiwynn）等業界巨頭。
在發布會現場，黃仁勳亦展示來自華擎和微星的 RTX PRO 伺服器樣機，顯示相關產品已準備就緒。業界預期市場上將很快出現一系列搭載 NVIDIA 最新 Blackwell 架構專業卡的伺服器產品，為不同規模的企業提供強大的 AI 運算基建選擇，進一步推動 AI 技術在各行各業的普及與深化應用。
Source：快科技
【相關消息】