NVIDIA 推出 Magnum IO 套裝軟體,協助資料科學家及AI和高效能運算研究人員消除資料瓶頸
新產品傳輸大量資料的速度是過去的20倍
NVIDIA (輝達) 今天宣布推出 NVIDIA Magnum IO 軟體,可以協助資料科學家、 AI 與高效能運算研究人員在幾分鐘而非幾小時內處理海量資料。
經過優化後的 Magnum IO 能夠排除儲存及輸入/輸出的瓶頸,在執行如財務分析、建立氣侯模型與其他高效能運算作業時,可針對多伺服器與多 GPU 節點提供高達 20 倍的資料處理效能。
NVIDIA 與網路及儲存領域的頂尖業者密切合作,包括 DataDirect Networks、Excelero、IBM、Mellanox 和 WekaIO,並肩開發出 Magnum IO。
NVIDIA 創辦人暨執行長黃仁勳表示:「處理大量收集或模擬的資料,是 AI 這般由資料帶動之科學研究領域的核心。隨著資料的規模和出現速度呈現指數級增長,資料中心所面臨的巨大挑戰和成本考量就是資料處理。極致的運算需要有極致的輸入/輸出功能,而 Magnum IO 將巔覆運算領域的 NVIDIA GPU 加速技術用在輸入/輸出功能和儲存裝置上,做到了這一點。如今 AI 研究人員與資料科學家不用再等待資料,反而能專心在他們的研究工作上。」
Magnum IO 的核心是 GPUDirect,資料可以藉此繞過 CPU,在 GPU、儲存裝置和網路設備提供的「開放高速公路」上進行傳輸。由點對點及遠端直接記憶體存取 (RDMA) 組成的 GPUDirect,與眾多傳輸互連及 API 皆相容,其中包括 NVIDIA NVLink™、NCCL、OpenMPI 及 UCX。
其最新元素是 GPUDirect Storage,讓研究人員在存取儲存裝置之際可以繞過 CPU,並且快速取得資料檔案來進行模擬、分析或視覺化等作業。
NVIDIA Magnum IO 軟體現已上市,而特定早鳥計畫的客戶現已可取得尚未上市的 GPUDirect Storage。NVIDIA 計畫在 2020 年上半年讓更多客戶接觸到 GPUDirect Storage。
商業生態體系的支持
「現代的高效能運算與 AI 研究活動,得依賴驚人數量的資料來進行,而這個規模往往超過 PB 等級,這需要新的技術領先水準來善加因應。DDN 利用 NVIDIA 的 Magnum IO 軟體套件與我們的平行 EXA5 儲存架構,為資料傳輸另闢蹊徑,使得 GPU 透過高頻寬直接取得 PB 等級的資料量,而這是過去做不到的。」- DDN 研究長 Sven Oehme
「頂尖高效能運算與 AI 研究人員如今需要取得的資料量,不斷突飛猛進,使得許多單位難以因應輸入/輸出工作。任何想要加快 AI 及運行資料密集型作業負載的組織,IBM Spectrum Scale 可以滿足它們的需求。使用 IBM Spectrum Scale 和 NVIDIA GPU 加速技術,就能協助客戶緩解輸入/輸出作業的瓶頸,更快從資料中取得所需的見解。」— IBM 儲存裝置管理部門副總裁 Sam Werner
「頂尖的高效能運算與 AI 研究人員選擇使用 Mellanox,讓他們能夠運用各項最先進的技術,以盡可能高效率且快速的方式移動和處理大量資料。我們一直與 NVIDIA 合作,確保 Magnum IO 能夠跟 Mellanox 最先進的 InfiniBand 和乙太網路互連解決方案順利搭配,使得雙方的共同客戶能夠完全克服資料瓶頸、促進其科學、研究和產品開發活動的腳步。」— Mellanox Technologies 軟體架構部門資深副總裁 Dror Goldenberg
發表迴響