VMware宣布與Intel合作推進Private AI

VMware 與 Intel 合作推進 Private AI

VMware Private AI with Intel憑藉出色的隱私保護、安全性、性能、規模和整體擁有成本，帶來人工智能的革命性力量

VMware（NYSE：VMW）近日宣布與 Intel 合作，透過拓展雙方二十多年來的創新成果，繼續幫助客戶加速人工智能（AI）應用，並於數據中心、公有雲和邊緣環境等部署 Private AI。VMware 和 Intel 正致力提供經聯合驗證的 AI 堆疊，支持客戶使用現有的通用 VMware 和 Intel 基礎架構以及開源軟件以簡化 AI 模型的構建和部署。VMware Cloud Foundation 通過與 Intel 的 AI 套件、內置 AI 加速器的 Intel Xeon 以及 IntelMax GPU 系列，將為數據準備、模型訓練、微調和推理提供驗證和基準測試的 AI 堆疊，豐富對企業和消費者的服務。

現時全球有 30 多萬客戶部署 VMware Cloud，VMware 虛擬化軟件已被部署至企業中幾乎所有創建、處理或使用數據的環境。VMware Cloud 成為一種可以將 AI 加速運算和模型帶到任何業務的快速策略。同樣地，Intel 亦為成千上萬的客戶提供開放、可擴展且值得信賴的解決方案。在企業中隨處可見的 VMware 和 Intel 產品將強強聯手，共同提高數據的可訪問性，支援全球企業機構採用 Private AI，即一種平衡 AI 所帶來的業務收益與實際私隱和合規需求的架構方法。

VMware AI Labs 副總監 Chris Wolf 表示：「在 AI 的話題上，我們已經無需在選擇、私隱和控制方面爭論權衡問題。Private AI 能夠同時為客戶提供這三方面的能力，支持客戶在加快 AI 部署的同時，構建具有前瞻性的 AI 基礎架構。VMware Private AI with Intel 將幫助我們的共同客戶大幅提高工作效率，加快主要業務轉型，同時提升經濟影響力。」

Intel 執行副總監兼數據中心與人工智能事業部（DCAI）總經理 Sandra Rivera 表示：「幾十年來，Intel 和 VMware 一直提供從數據中心到雲端的新功能，支援客戶提升行動速度、創新力和營運效率。AI 可帶來更多強大的可能性，改善全人類生活，Intel 和 VMware 完全有能力帶領企業進入由半導體和軟件驅動的 AI 新時代。」

提升 AI 性能，並以更低的總擁有成本獲取更安全的 AI 基礎架構

無論在公有雲、企業數據中心還是在邊緣，VMware Private AI 都能將計算能力和 AI 模型帶到創建、處理和使用企業數據的環境，從而為傳統 AI/ML 工作負載和生成式 AI 提供支援。VMware  和 Intel 可在數分鐘至數小時內對特定任務模型進行微調，並使用客戶的私有企業數據實現比人類交流速度更快的大型語言模型推理。VMware 和 Intel 可以對更小、更經濟的先進模型進行微調，令模型更容易在共用虛擬系統上進行更新和維護。當批量 AI 工作完成後，該模型又可以被送回 IT 資料庫。現時，無論是 AI 輔助的編碼生成、沉浸式客戶服務中心推薦系統，和機器統計分析等不同使用案例均可以在同一伺服器上共存並運行應用。

VMware 和 Intel 正在設計一種參考架構，以便將 Intel 的 AI 軟件套件、Intel Xeon 及數據中心 GPU 與 VMware Cloud Foundation 結合，支援客戶在其基礎架構上構建和部署 Private AI 模型，從而降低總擁有成本，解決可持續發展問題。採用 Intel AI 的 VMware Private AI 參考架構將包括：

• 配備 Intel® Advanced Matrix Extensions（Intel® AMX）的第 4 代 Intel Xeon，使用標準行業框架、端到端數據科學生產工具以及經過優化的 AI 模型， 提供高達 10 倍的嶄新性能。
• Intel® Data Center GPU Max 包含多達 128 個 Xe 核，為 Intel 針對要求最嚴格的 AI 工作負載所推出的基礎 GPU 計算元件。IntelMax 系列 GPU 將提供多種外形尺寸，以滿足不同客戶的需求。
• Intel 的 AI 軟件套件包含端到端開源軟件和可選許可元件，以支援開發人員運行從數據準備、微調到推理的完整 AI 流程、加快構建多節點擴展，並在企業 IT 基礎架構上部署 AI。開放式 oneAPI 框架可實現與處理器和硬件加速器無關的軟件開發，令開發人員只需進行一次編碼，就可以在不同的架構上運行，無需使用多個專用程式語言。Intel 的 Transformer Extensions 和 PyTorch Extension 與開源 Hugging Face 資料庫結合，為微調和壓縮模型提供自動優化的配方，從而實現高效推理。

VMware Cloud Foundation 透過以下功能，為 VMware Private AI 帶來一致的企業級基礎架構，不但操作簡便，同時亦增強安全性。

• VMware vSAN Express Storage Architecture 可為 I/O 密集型 AI/ML 調整和分配工作負載的加密等重要功能以最小的開銷提供高達30%的性能提升¹。
• vSphere Distributed Resources Scheduler 能有效利用空閑算力進行 AI 模型訓練和推理，充分利用其他 AI 應用所使用的集群，最大程度地提高容量，並降低總擁有成本。
• VMware NSX 用於構建微分段和高級威脅防護功能。
• 安全啟動和虛擬 TPM 可確保模型和數據的保密性。

VMware Private AI 將由 Dell、Hewlett 和 Lenovo 的伺服器提供支援，而該伺服器由帶有 IntelAMX 的第四代 Xeon CPU 以及 Intel Max 系列 GPU 所運行。

更多關於 VMware Private AI 與 Intel 合作的資訊，敬請訪問：https://www.vmware.com/products/vsphere/ai-ml.html

1. 基於 VMware 內部分析