NVIDIA 創下最新 AI 推論測試新佳績 NVIDIA Turing 架構 GPU 與 NVIDIA Jetson Xavier 在 MLPerf資料中心與邊緣 AI 推論效能測試創下速度最快的成績

NVIDIA 創下最新 AI 推論測試新佳績

NVIDIA Turing 架構 GPU  NVIDIA Jetson Xavier  MLPerf資料中心與邊緣 AI 推論效能測試創下速度最快的成績

 

 

NVIDIA (輝達) 今天宣布繼近期在最新的 AI 訓練測試中的佳績,最新資料中心與邊緣 AI 推論作業效能測試皆雙雙創下速度最快的成果。

MLPerf Inference 0.5 為業界首創獨立 AI 推論測試基準套件,其結果向外界展現用於資料中心的 NVIDIA Turing™ GPU 與用於邊緣運算的 NVIDIA Jetson Xavier™ 系統單晶片之優異表現。

MLPerf 的五項推論基準適用於多種形式與四個推論情境,其中包含已經建立的影像分類、物體偵測和翻譯等 AI 應用項目。

NVIDIA 在資料中心伺服器與離線情境的五項基準測試中皆拔得頭籌,Turing 架構 GPU 在所有商用處理器中讓各處理器均創下最佳的表現。Jetson Xavier 在著重於邊緣的單串流及多串流情境中,在所有商用邊緣及行動系統單晶片中提供最高的效能。

NVIDIA 加速運算部門副總裁暨總經理 Ian Buck 表示:「AI 正處於一個轉捩點,迅速從研究領域轉向實際應用的大規模落地部署。AI 推論有著十分吃重的運算要求。NVIDIA 結合業界最先進的可編程加速器、CUDA-X AI 演算法套件,以及在 AI 運算方面的深厚專業知識,可以幫助資料中心部署其龐大且不斷增長的複雜 AI 模型。」

NVIDIA 強調其運算平台在多種 AI 作業負載方面的可編程性和效能,是唯一一間在五項 MLPerf 基準測試中均創下亮眼成績的公司。今年七月 NVIDIA 在 AI 訓練 MLPerf 0.6 基準測試拿下第一,締造了八項訓練表現的最佳紀錄

NVIDIA GPU 協助全球眾多最大型雲端基礎設施加速大規模推論作業,包括阿里雲、AWS、Google Cloud Platform、Microsoft Azure 及騰訊雲。現今 AI 延伸至行動點及資料建立的邊緣,像是 Walmart 和 P&G 在內的全球各大企業和組織,都使用 NVIDIA EGX 邊緣運算平台 AI 推論效能,在網路邊緣執行複雜的 AI 運算作業。

NVIDIA 透過 NVIDIA TensorRT™ 6 高效能深度學習推論軟體創下各項 MLPerf 測試佳績,該軟體可以在從資料中心到邊緣輕鬆優化及部署正式生產環境中的 AI 應用程式。在 Github 檔案庫中也能以開放源碼的型態取得新的 TensorRT 優化項目。

全新的 Jetson Xavier NX

NVIDIA 今日也推出 Jetson Xavier NX 為旗下的推論平台加入新生力軍。Jetson Xavier NX 是全球尺寸最小、功能最強大的 AI 超級電腦,能用於機器人和邊緣嵌入式運算裝置,在 MLPerf Inference 0.5 測試中使用的是 Xavier 系統單晶片的低功率版本。

數碼領域

Arlo 開學優惠限時推出,切勿錯過提升家居安全的好時機

數碼領域
2024-09-25 0
Arlo 開學優惠限時推出,切勿錯過提升家居安全的好時機   踏入新學年,家長們在關注子女學習的同時,亦不容忽視家居安全。為此,來自美國,領先的無線網絡攝影機品牌 Arlo 的香港總代理永高(太平洋)有限公司將於即日起至 10 月 6 日,為Arlo旗下多款屢獲殊榮智能網絡攝影機及視訊門鈴推出限時開 ...

Be the first to comment

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料