NVIDIA Fleet Command 的新功能提供企業一站式邊緣人工智慧管理與維護

NVIDIA Fleet Command 的新功能提供企業

一站式邊緣人工智慧管理與維護

 

NVIDIA Fleet Command 加入遠端管理、多執行個體 GPU 和更多整合,

以維護與最佳化全球人工智慧邊緣部署

NVIDIA Fleet Command 是一種用於在邊緣部署、管理和擴展人工智慧 (AI) 應用程式的雲端服務,現已新增全球邊緣 AI 部署的無縫管理功能。

隨著邊緣 AI 部署規模的不同,企業組織可能擁有多達數千個獨立的邊緣端點,它們必須由 IT 團隊管理,且有時位於偏遠的位置,如石油鑽井平台、氣象儀、分散式零售店或工業設施。

NVIDIA Fleet Command 為容器調度 (container orchestration) 提供一個簡單的託管平台,讓企業能透過單一的雲端控制台,輕鬆地在數千個分散環境中配置及部署 AI 應用程式和系統。

然而,部署僅是管理邊緣 AI 應用程式的第一步。最佳化這些應用程式是一個持續的過程,包括修補應用、部署新應用程式與重啟邊緣系統。

Fleet Command 提供先進的遠端管理、多執行個體 GPU 配置,以及來自業界合作單位的工具整合,讓這些工作流程在託管環境中無縫運作。

先進的遠端管理

IT 管理員現在可以使用具複雜安全功能的系統和應用程式。Fleet Command 的遠端管理提供存取控制和閒置計時,消除傳統 VPN 連接帶來的漏洞。管理員能夠在舒適的辦公室中安全地監控遠端端點的活動情形並解決問題。

邊緣環境的變化很大,邊緣 AI 部署管理員必須很靈活,才能跟上快速的變化並確保最少的停機時間,這讓遠端管理成為每個邊緣 AI 部署的關鍵。

敬請瀏覽最新遠端管理功能的完整演練,以及如何使用遠端管理來幫助管理員維護和最佳化最大規模的邊緣部署。

多執行個體 GPU 配置

多執行個體 GPU (或稱 MIG) 將 NVIDIA GPU 分成多個獨立執行個體。MIG 已可在 Fleet Command 上使用,讓管理員可以從 Fleet Command 使用者介面輕鬆地將應用程式分配給每個執行個體。只要在同一個 GPU 上執行多個 AI 應用程式,MIG 就能讓企業組織調整其部署規模且充分利用其邊緣基礎設施。

更深入了解管理員如何在 Fleet Command 中使用 MIG,以最佳化邊緣資源,進而輕鬆擴展新的作業負載。

合作擴展 AI 技術

全新 Fleet Command 合作亦幫助企業打造從開發到邊緣部署的無縫工作流程。

Domino Data Lab 提供企業級 MLOps 平台,讓資料科學家使用他們偏好的工具、語言和基礎設施,大規模進行協作開發、部署和監控 AI 模型。Domino 平台與 Fleet Command 的整合提供資料科學和 IT 團隊單一的記錄系統與一致的工作流程,用於管理部署至邊緣端點的模型。

影像管理系統的領導供應商,也是 NVIDIA Metropolis 菁英合作夥伴的麥士通 (Milestone Systems) 打造了應用程式編寫介面閘道 AI Bridge,能讓 AI 應用程式輕鬆存取來自數十個攝影機的整合影像內容。Milestone AI Bridge 已與 Fleet Command 整合,可輕鬆被部署至任何邊緣端點。

鐵雲科技 (IronYun) 是 NVIDIA Metropolis 菁英合作夥伴和 NVIDIA 合作夥伴網路 (NPN) 的頂尖成員,該公司的 Vaidio AI 平台將經多代更新的先進 AI 應用在全球的安全和營運應用程式。Vaidio 是一個開放平台,能與任何 IP 攝影機搭配使用,並與數十個引領市場的影片管理系統立即整合。Vaidio 可以部署在本地端、雲端、邊緣和混合環境中,且可從一台攝影機擴展至數千台攝影機。Fleet Command 使得在邊緣部署 Vaidio AI 變得更輕鬆,也簡化了大規模管理。

透過這些新功能和擴展協作,Fleet Command 能確保維護、監控和最佳化邊緣部署的日常過程變得更直接且輕鬆。

測試 Fleet Command

免費申請使用 NVIDIA LaunchPad,在 Fleet Command 上試用上述功能。

LaunchPad 為 Fleet Command 執行個體提供即時、快速存取,以便使用實作實驗室輕鬆部署和監控伺服器上的應用程式,引導用戶完成從基礎設施配置和最佳化,到在網路邊緣部署視覺 AI 等應用的完整部署過程。

數碼領域

Be the first to comment

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料