Amazon 採用 NVIDIA T4 GPU　將人工智慧效能搬上雲端

Amazon 採用 NVIDIA T4 GPU　將人工智慧效能搬上雲端

AWS EC2 G4 執行個體搭載高度運算效率的 Turing 架構處理器

可部署經過加速的超大規模 AI 推論、雲端遊戲及最新的 RTX 繪圖

猶如真人般的自動化客服內容、在任何連網裝置上都能享受到專業工作站的運算效能及電影畫質般的 PC 遊戲，如今北美、歐洲及亞洲地區的 AWS 雲端用戶，也能透過全新Amazon EC2 G4執行個體享受到 NVIDIA T4 Tensor 核心 GPU 所帶來的多樣功能。由廣泛的軟體堆疊支援的NVIDIA T4 GPU能提供G4執行個體用戶高效能、具多功能性與高效率的運算。

此軟體平台已經針對豐富的應用進行優化，包括運用於深度學習的NVIDIA cuDNN、運用於資料分析與機器學習的 NVIDIA RAPIDS、運用於雲端工作站繪圖的 NVIDIA Quadra 虛擬工作站，和運用於雲端遊戲的 NVIDIA GeForce。經 NVIDIA 優化後的軟體堆疊亦包括多款 API、CUDA 及用於特定領域的 CUDA-X 函式庫，像是 TensorRT、NCCL、OptiX 及 Video Codec SDK。

AWS 運算服務部門副總裁 Matt Garman 表示：「我們把重心放在解決最嚴峻的難題上，這些難題使得客戶無法妥善發揮運算密集型應用程式的優點。AWS 提供最全面的產品組合用於建立、訓練和部署機器學習模型，透過 Amazon EC2 各式各樣最佳化執行個體類型來滿足不同的機器學習使用案例。透過 T4 GPU 支援的全新 G4 執行個體，開發人員可以用更平價的方式進行機器學習。」

花更少的力氣，做更多的 AI

NVIDIA 重新打造推出 NVIDIA T4 這款第二代 Tensor 核心 GPU，在維持 CUDA 可編程特性的同時，又能達到 AI 應用項目的最高效能。

NVIDIA T4 的 INT8 運算效能高達 130 TOPS，具有混合精度張量處理能力，這是加快因應 AI 應用項目如影像分類、物體偵測、自然語言理解、自動語音辨識及推薦系統等，不斷發展之創新性、多樣性及複雜性所必需的能力。

Amazon 是業界運算速度最快的超大規模業者之一，提供 NVIDIA GPU 以支援即用型 NVIDIA NGC 容器進行訓練和推論。EC2 P3 執行個體搭配 NVIDIA V100 Tensor 核心 GPU，使得客戶可以使用自動混合精度功能，將訓練機器學習的時間，從原本的數日減少到只需數小時便可完成。客戶使用 EC2 G4 執行個體，就能大規模部署 AI 服務，又能大幅減少營運成本。

加上我們日前宣布與 VMware 的合作，使用 VMware Cloud on AWS 這項服務的客戶很快就能享受全新且極具擴充性和安全性的雲端服務，該雲端服務由 NVIDIA T4 GPU 以及我們全新的 NVIDIA Virtual Compute Server (vComputeServer) 軟體 加速的 Amazon EC2 裸機執行個體所組成。

企業可以藉由此企業級的混合式雲端平台，加快應用程式現代化，並從資料中心到 AWS 雲端環境一致的 VMware 基礎設施之間，執行統一的部署、遷移和操作等作業，以支援 AI、機器學習和資料分析等這些最需要密集運算的工作內容。

隨時隨地採用即時光線追蹤及 AI 增強繪圖功能

電腦繪圖領域一直以來不斷追求著「即時光線追蹤」這個至高無上的聖杯，這項技術能夠產生出畫面極為逼真的場景。設計師與藝術家可以運用即時渲染、AI 增強繪圖功能、影片與影像處理等技術，以一種嶄新方式創作出畫面栩栩如生的內容。

NVIDIA T4 是首款部署在雲端環境裡的 NVIDIA RTX 光線追蹤 GPU。T4 GPU 內專用的運算資源 RT Core，會用超高效率來計算光線追蹤，如此一來便能捨棄過去昂貴的光線追蹤方法。

新款 G4 執行個體結合 NVIDIA Quadro 虛擬工作站 (Quadro vWS) 與 Amazon Machine Images (AMI)，以支援最新的光線追蹤 API，包括 Microsoft DXR、NVIDIA OptiX 以及 Vulkan。不論是媒體娛樂、建築、製造、石油和天然氣等業界的技術與創意專業人士，皆可以在 AWS 雲端環境裡運行最新的繪圖軟體應用程式。

在不到五分鐘的時間內，便可使用 AWS 來部署虛擬工作站。只要開啟 AWS Marketplace、選擇NVIDIA Quadro vWS 機器影像和 G4 執行個體，就能在 Windows Server 2016 與 Windows Server 2019 上使用。

GPU 助力的雲端遊戲

T4 GPU 背後的 Turing 架構也將 NVIDIA 在遊戲方面的強勁實力帶到 AWS，這麼一來便能使用 GPU 的硬體編碼器引擎，對要求最嚴苛的遊戲進行渲染和串流，還能使用 Video Codec SDK 來設計這個硬體編碼器引擎的程式碼。

遊戲發行商可以使用最新的 NVIDIA 技術來建立自己的雲端遊戲執行個體，玩家幾乎可以在所有裝置上取得完整的 PC 遊戲目錄。

遊戲玩家可以在高解析度的狀態下，用高速、流暢的影格率來暢玩各種最新遊戲，不用擔心硬體是否需要升級、驅動程式是否需要更新或遊戲修補內容的問題。

可以在 AWS Marketplace 取得支援這項功能的 NVIDIA 驅動程式，並且在 Windows Server 2016、Windows Server 2019 及 Linux OS 上運行 AWS G4 執行個體。

從 AWS EC2 G4 執行個體開始著手

Clarifai、Electronic Arts、GumGum 以及 PurWeb 是首批使用 Amazon EC2 G4 執行個體的客戶，以利用 NVIDIA T4 的多種運算能力及出色效能，大規模運行各種需要進行密集運算的工作。兩者在這方面皆提供強大的服務，又協助自己的客戶降低建構及部署這些服務的成本。

在接下來的數週內，G4 執行個體還將支援 Amazon Elastic Inference，讓使用者能將 GPU 加速加入任何 Amazon EC2 或 Amazon SageMaker 執行個體中，以更低的成本在更短時間內進行推論，其省下的幅度高達 75%。

請至 AWS G4 執行個體網頁以了解更多資訊，並立即體驗 NVIDIA T4。