NVIDIA 與全球合作夥伴發表全新 HGX A100 系統 以加速推動工業人工智慧與高效能運算

NVIDIA 與全球合作夥伴發表全新 HGX A100 系統

以加速推動工業人工智慧與高效能運算

由 HGX 提供支援的各種 HPC 系統與雲端運算服務

現在即可享有 NVIDIA A100 80G PCIe及NVIDIA Magnum IO 支援

不久的將來更有NVIDIA NDR 400G InfiniBand 的助力支援

NVIDIA (輝達) 今日宣佈 NVIDIA HGX™ 人工智慧超級運算平台將加入融合人工智慧 (AI) 與高效能運算 (HPC) 的新技術，具備更強大的能力，讓更多產業能運用超級運算技術。為了加速開拓工業 AI 與 HPC 的新時代，NVIDIA 在 HGX 平台上加入三項關鍵技術，分別是 NVIDIA® A100 80GB PCIe GPU、NVIDIA NDR 400G InfiniBand 網路與 NVIDIA Magnum IO™ GPUDirect™ Storage 軟體，將共同提供極致效能，以促進工業 HPC 領域的創新。

源訊科技 (Atos)、戴爾科技集團 (Dell Technologies)、慧與科技 (Hewlett Packard Enterprise；HPE)、聯想 (Lenovo)、Microsoft Azure 與 NetApp 等數十個合作夥伴，皆使用 NVIDIA HGX 平台來發展下一代系統及解決方案。

NVIDIA 創辦人暨執行長黃仁勳表示：「從學術界掀起的 HPC 革命迅速擴大到各行各業。關鍵動力推動以超指數、超摩爾定律的方式向前邁進，讓各行各業都能使用到 HPC 這項利器。NVIDIA 的 HGX 平台提供研究人員無與倫比的高效能運算加速技術，以解決產業所面臨最為棘手的問題。」

業界領導者使用 HGX 平台推動創新突破

高科技工業先驅通用電氣 (General Electric) 正使用 HGX 平台，將 HPC 創新應用於引領燃氣渦輪機和噴射發動機設計創新的計算流體力學 (CFD) 模擬。HGX 平台實現了指數級加速通用電氣的 GENESIS 代碼中突破性的 CFD 方法，它採用大渦流模擬來研究渦輪機內部亂流的影響，渦輪機內部是由數百個葉片所組成，且涉及獨特且複雜的幾何學。

除了推動工業 HPC 轉型，HGX 平台也在加速世界各地的科學型 HPC 系統，包括位於愛丁堡大學的下一代超級電腦，此消息也在今天公布。

NVIDIA A100 80GB PCIe 為 AI 與 HPC 提高運作效能
NVIDIA A100 Tensor Core GPU 提供前所未有的 HPC 加速技術，以解決與工業 HPC 習習相關的 AI、資料分析、模型訓練與模擬的複雜挑戰。與 A100 40GB 相比，A100 80GB PCIe GPU 提高 25% 的 GPU 記憶體頻寬，達到每秒 2TB，並且提供 80GB 的 HBM2e 高頻寬記憶體。

A100 80GB PCIe 的龐大記憶體容量與高記憶體頻寬，可以在記憶體中保存更多資料和更大的神經網路，將節點間的通訊和能耗量降至最低。更高速的記憶體頻寬讓研究人員能夠加快處理速度、更快獲得結果，徹底發揮 IT 投資的價值。

A100 80GB PCIe 採用具備 NVIDIA 多執行個體 (MIG) 技術的 NVIDIA Ampere 架構，可以加速處理 AI 推論等小型作業負載。MIG 能讓 HPC 系統在保證服務品質的情況下，縮小運算和記憶體規模。除了 PCIe 外，另有搭載四個或八個 NVIDIA HGX A100 的配置。

支援 A100 80GB PCIe 的 NVIDIA 合作夥伴包括 Atos、思科 (Cisco)、戴爾科技集團 (Dell Technologies)、富士通 (Fujitsu)、新華三 (H3C)、慧與科技(HPE)、浪潮 (Inspur)、聯想 (Lenovo)、Penguin Computing、雲達科技 (QCT) 與美超微 (Supermicro)。搭載 A100 GPU 並透過 NVLink 互連的 HGX 平台亦可在 Amazon Web Services、Microsoft Azure 及 Oracle Cloud Infrastructure 等雲端服務中取得。

下一代 NDR 400Gb/s InfiniBand 交換器系統

NVIDIA InfiniBand 是全球唯一可完全卸載的網路內運算互連技術，可為需要優異資料處理能力的 HPC 系統提供超強大的效益。NDR InfiniBand 技術可因應工業與科學 HPC 系統面臨的艱鉅挑戰而隨之調整效能規模。NVIDIA Quantum™-2 固定配置交換器系統擁有 64個 NDR 400Gb/s InfiniBand 連接埠 (或是 128 個 NDR200 連接埠)，與 HDR InfiniBand 相比，連接埠的密度高出三倍。

NVIDIA Quantum™-2 模組化交換器提供具擴充能力的連接埠配置，最多提供 2,048 個 NDR 400Gb/s InfiniBand 連接埠 (或4,096個 NDR200 連接埠)，雙向總處理量為每秒 1.64 petabits，是上一代的五倍。擁有 2,048 個連接埠的交換器，擴充能力較上一代產品高出 6.5 倍，透過 DragonFly+ 網路拓撲結構，只要三個交換器 hop 就能連接超過 100 萬個節點。第三代 NVIDIA SHARP In-Network Computing 資料縮減技術與上一代相比，能提高 32 倍 AI 加速能力，提升高效能工業和科學應用程式的效能。

先進的管理功能包括自我修復網路功能，以及 NVIDIA In-Network Computing 加速引擎。NVIDIA UFM® Cyber-AI 平台進一步將資料中心的停機時間降至最低。

按照產業標準，預計將於年底前供樣的 NVIDIA Quantum-2 交換器可以向前與向後相容，讓用戶能輕鬆遷移與擴展現有系統及軟體。

包括 Atos、DataDirect Networks (DDN)、Dell Technologies、Excelero、技嘉 (GIGABYTE)、 HPE、Lenovo、Penguin、QCT、Supermicro、VAST 與 WekaIO 在內等頂尖基礎設備製造商，預計在其企業級與 HPC 產品中加入 Quantum-2 NDR 400Gb/s InfiniBand 交換器。Azure 等雲端服務供應商也將運用 InfiniBand 技術的優勢。

推出 Magnum IO GPUDirect Storage 軟體

Magnum IO GPUDirect Storage 軟體可以在 GPU 記憶體與儲存裝置之間直接存取記憶體，以絕佳效能來處理複雜的作業負載。直接存取記憶體路徑的較低 I/O 延遲嘉惠了應用程式，還能使用網路介面的全部頻寬、減少 CPU 的利用負載與處理資料消耗量增加所帶來的影響。

Magnum IO GPUDirect Storage 軟體已經上市，支援此軟體的領導業者包括 DDN、Dell Technologies、Excelero、HPE、IBM Storage、美光 (Micron)、NetApp、Pavilion、ScaleFlux、VAST 與 WekaIO。在 https://developer.nvidia.com/gpudirect-storage 網頁中可取得儲存裝置合作夥伴的完整名單。