NVIDIA vComputeServer 透過 NGC 容器將 GPU 虛擬化技術導入 AI、深度學習與資料科學領域
VMware、Cisco、Dell 與 Red Hat 等領導企業皆導入 vComputeServer
以簡化 GPU 伺服器的部署和管理
NVIDIA (輝達) 今日宣布旗下為虛擬客戶運算領域帶來變革的虛擬 GPU (vGPU) 技術現在開始為 AI 、深度學習與資料科學等作業提供伺服器虛擬化技術。AI 運算的部署過去受限於 CPU,如今透過全新的 vComputeServer 軟體及 NVIDIA GPU 容器 (NGC)能輕鬆部署在如 VMware vSphere 等虛擬化環境中。藉由與 VMware 的合作,這樣的架構將能協助企業透過 GPU 在客戶端的資料中心與以 AWS 驅動的 VMware 雲端環境間,順暢地移轉 AI 作業。
vComputeServer 讓資料中心管理員可以選擇在虛擬化環境以 GPU 伺服器來處理AI運算作業,以獲得更好的安全、使用和管理。IT 管理員可以使用像是內建 vCenter 和vMotion 的 VMware vSphere 虛擬機器監測工具,管理資料中心的各項應用程式,其中包括以 NVIDIA GPU 進行運算的 AI 應用程式。
雖然許多公司選擇在資料中心部署 GPU,但如 AI 訓練和推論等 GPU 加速運算作業則是在硬體上執行。這些 GPU 伺服器通常是獨立且須逐一進行管理,缺乏實用與彈性。
透過 vComputeServer,IT 管理員便能在維持現有工作流程與降低整體經營成本的同時,大幅簡化 GPU 加速虛擬化伺服器的管理作業。與僅搭載 CPU 的伺服器相比,內建四個 NVIDIA V100 GPU 的 vComputeServer 將能提供 50 倍的深度學習運算效能,能媲美實體硬體的效能。
vComputeServer 除了支援 VMware vSphere外,也同時支援包含 Red Hat 與 Nutanix 在內的KVM虛擬機器管理程式,讓管理員可以使用與 GPU 叢集相同的管理工具,管理資料中心上其他的作業。
虛擬 GPU 可提升所有運算作業的效能
NVIDIA vComputeServer 拓展了 vGPU 的產品組合,新增對資料分析、機器學習、AI、深度學習、高效能運算與其它伺服器作業的支援。vGPU 產品組合還包括虛擬桌面產品,例如為知識工作者打造的 NVIDIA GRID 虛擬 PC、GRID Virtual 應用程式與為專業繪圖領域所推出的 Quadro 虛擬資料中心工作站。
NVIDIA vComputerServer 提供像是 GPU 共享的功能,單一 GPU 可以支援多個虛擬機器,而透過 GPU 整合技術,單一或多具 GPU 可以支援同一個虛擬機器,將使用與負載效能最大化。
vComputeServer 的功能包含:
- GPU 效能:提供比僅使用 CPU 快 50 倍的深度學習訓練效能,媲美實體硬體的效能。
- 先進運算效能:糾出程式碼中的錯誤和動態頁面閃退,有助於避免產生高精度工作中的資料損壞情況。
- 即時移轉:可在最小干擾或停機狀態下移轉搭載 GPU 的虛擬機器。
- 安全性提升:企業可以將安全的伺服器虛擬化優勢拓展至 GPU 叢集上。
- 多租戶隔離:在單一基礎架構上進行作業隔離,以便安全地支援多個用戶。
- 管理和監控:管理員可以使用與虛擬監測管理程式相同的虛擬化工具來管理 GPU 伺服器,監控在主機、虛擬機器及應用程式等各層的運作情況。
- 廣泛支援的 GPU: NVIDIA T4 、 V100 GPU 、 Quadro RTX 8000 及 6000 GPU ,還有前幾代 Pascal 架構的 P40、P100 和 P60 GPU 皆支援 vComputeServer。
NVIDIA NGC 新增對 VMware vSphere 的支援
NVIDIA 專為深度學習、機器學習與高效能運算優化的 GPU 優化雲端軟體 NVIDIA NGC,提供逾 150 款容器、預先訓練好的模型、訓練指令碼與作業流程,以加速從概念發展到正式生產環境的 AI,其中包含 CUDA 加速資料科學軟體 RAPIDS。
RAPIDS 提供一系列開源的函式庫與加速包含資料讀取、ETL、模型訓練與推論在內的資料科學作業,讓資料科學家可以更快完成作業,並在能力所及內拓展更多模型。
所有的 NGC 軟體皆可被部署至虛擬環境中,其中包含支援 vComputeServer 的 VMware vSphere。
IT 管理員可以使用 VMware vSphere 等虛擬監測程式工具,管理在虛擬環境中以 NVIDIA GPU 上運行的所有 NGC 容器。
NVIDIA 也推出經過認證的 NGC Ready 伺服器以協助 IT 部門更快將 GPU 伺服器導入在正式生產環境中。企業級的支援服務讓用戶和管理員可以直接聯繫 NGC 軟體專家,將風險降到最低並提升生產力。
產業支持
包含 Dell、Cisco、VMware 與其他頂尖產業合作夥伴皆已經表態支持 NVIDIA vComputeServer。欲了解更多客戶證言請瀏覽網站。
供應時程
NVIDIA vComputeServer 自八月起上市。如需更多資訊,請瀏覽 NVIDIA vComputeServer 官方網站。
發表迴響