NVIDIA vComputeServer 透過 NGC 容器將 GPU 虛擬化技術導入 AI、 深度學習與資料科學領域

NVIDIA vComputeServer 透過 NGC 容器將 GPU 虛擬化技術導入 AI、深度學習與資料科學領域

VMware、Cisco、Dell 與 Red Hat 等領導企業皆導入 vComputeServer

以簡化 GPU 伺服器的部署和管理

 

NVIDIA (輝達) 今日宣布旗下為虛擬客戶運算領域帶來變革的虛擬 GPU (vGPU) 技術現在開始為 AI 、深度學習與資料科學等作業提供伺服器虛擬化技術。AI 運算的部署過去受限於 CPU,如今透過全新的 vComputeServer 軟體及 NVIDIA GPU 容器 (NGC)能輕鬆部署在如 VMware vSphere 等虛擬化環境中。藉由與 VMware 的合作,這樣的架構將能協助企業透過 GPU 在客戶端的資料中心與以 AWS 驅動的 VMware 雲端環境間,順暢地移轉 AI 作業。

vComputeServer 讓資料中心管理員可以選擇在虛擬化環境以 GPU 伺服器來處理AI運算作業,以獲得更好的安全、使用和管理。IT 管理員可以使用像是內建 vCenter 和vMotion 的 VMware vSphere 虛擬機器監測工具,管理資料中心的各項應用程式,其中包括以 NVIDIA GPU 進行運算的 AI 應用程式。

雖然許多公司選擇在資料中心部署 GPU,但如 AI 訓練和推論等 GPU 加速運算作業則是在硬體上執行。這些 GPU 伺服器通常是獨立且須逐一進行管理,缺乏實用與彈性。

透過 vComputeServer,IT 管理員便能在維持現有工作流程與降低整體經營成本的同時,大幅簡化 GPU 加速虛擬化伺服器的管理作業。與僅搭載 CPU 的伺服器相比,內建四個 NVIDIA V100 GPU 的 vComputeServer 將能提供 50 倍的深度學習運算效能,能媲美實體硬體的效能。

vComputeServer 除了支援 VMware vSphere外,也同時支援包含 Red Hat 與 Nutanix 在內的KVM虛擬機器管理程式,讓管理員可以使用與 GPU 叢集相同的管理工具,管理資料中心上其他的作業。

虛擬 GPU 可提升所有運算作業的效能

NVIDIA vComputeServer 拓展了 vGPU 的產品組合,新增對資料分析、機器學習、AI、深度學習、高效能運算與其它伺服器作業的支援。vGPU 產品組合還包括虛擬桌面產品,例如為知識工作者打造的 NVIDIA GRID 虛擬 PC、GRID Virtual 應用程式與為專業繪圖領域所推出的 Quadro 虛擬資料中心工作站

NVIDIA vComputerServer 提供像是 GPU 共享的功能,單一 GPU 可以支援多個虛擬機器,而透過 GPU 整合技術,單一或多具 GPU 可以支援同一個虛擬機器,將使用與負載效能最大化。

vComputeServer 的功能包含:

  • GPU 效能:提供比僅使用 CPU 快 50 倍的深度學習訓練效能,媲美實體硬體的效能。
  • 先進運算效能:糾出程式碼中的錯誤和動態頁面閃退,有助於避免產生高精度工作中的資料損壞情況。
  • 即時移轉:可在最小干擾或停機狀態下移轉搭載 GPU 的虛擬機器。
  • 安全性提升:企業可以將安全的伺服器虛擬化優勢拓展至 GPU 叢集上。
  • 多租戶隔離:在單一基礎架構上進行作業隔離,以便安全地支援多個用戶。
  • 管理和監控管理員可以使用與虛擬監測管理程式相同的虛擬化工具來管理 GPU 伺服器,監控在主機、虛擬機器及應用程式等各層的運作情況。
  • 廣泛支援的 GPU: NVIDIA T4V100 GPUQuadro RTX 8000 及 6000 GPU ,還有前幾代 Pascal 架構的 P40、P100 和 P60 GPU 皆支援 vComputeServer。

NVIDIA NGC 新增對 VMware vSphere 的支援

NVIDIA 專為深度學習、機器學習與高效能運算優化的 GPU 優化雲端軟體 NVIDIA NGC,提供逾 150 款容器、預先訓練好的模型、訓練指令碼與作業流程,以加速從概念發展到正式生產環境的 AI,其中包含 CUDA 加速資料科學軟體 RAPIDS。

RAPIDS 提供一系列開源的函式庫與加速包含資料讀取、ETL、模型訓練與推論在內的資料科學作業,讓資料科學家可以更快完成作業,並在能力所及內拓展更多模型。

所有的 NGC 軟體皆可被部署至虛擬環境中,其中包含支援 vComputeServer 的 VMware vSphere。

IT 管理員可以使用 VMware vSphere 等虛擬監測程式工具,管理在虛擬環境中以 NVIDIA GPU 上運行的所有 NGC 容器。

NVIDIA 也推出經過認證的 NGC Ready 伺服器以協助 IT 部門更快將 GPU 伺服器導入在正式生產環境中。企業級的支援服務讓用戶和管理員可以直接聯繫 NGC 軟體專家,將風險降到最低並提升生產力。

 

產業支持

包含 Dell、Cisco、VMware 與其他頂尖產業合作夥伴皆已經表態支持 NVIDIA vComputeServer。欲了解更多客戶證言請瀏覽網站

供應時程
NVIDIA vComputeServer 自八月起上市。如需更多資訊,請瀏覽 NVIDIA vComputeServer 官方網站

數碼領域

2024 Samsung Lifestyle設計生活家電系列 功能外型再升級

影音視聽
2024-04-19 0
2024 Samsung Lifestyle設計生活家電系列 功能外型再升級 引領個人化家居風 推出全新 Music Frame 音樂畫框、升級The Frame 畫框電視及BESPOKE JetTM   吸塵機 三星電子香港有限公司自推出 Lifestyle 設計生活家電系列至今提供最佳享受,不斷 ...

首個港澳及大灣區年度科技應用競賽《Nomad Awards》

數碼領域
2024-04-17 0
首個港澳及大灣區年度科技應用競賽《Nomad Awards》 鼓勵跨境學習交流 冀學生以最新科技 創新社區項目   在這個科技急速發展的新世代,學懂應用最新科技,將天馬行空的創念實踐,令不可能變成可能,將會是孩子們其中一個最重要的學習課題。一直致力為各個年齡層學生提供最新最優質科技教育的P ...

Be the first to comment

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料