NVIDIA (輝達)宣布引領全球的科技公司廣泛採用 NVIDIA EGX 人工智慧 (AI) 平台,為企業和邊緣資料中心帶來安全且經 GPU 加速的軟體、服務與伺服器。
數百家具有遠見的AI、5G、CloudRAN、安全與網路公司,皆與主流的伺服器製造商合作,包括戴爾科技 (Dell Technologies)、浪潮 (Inspur)、聯想 (Lenovo) 和美超微 (Supermicro),軟體基礎架構供應商如 Canonical、Cloudera、紅帽 (Red Hat)、SUSE 和 VMware 也運用NVIDIA EGX平台來幫助企業將AI帶入邊緣。
全球規模最大的產業都將受益於 EGX 平台,並能快速且有效率地大規模部署 AI,包括製造、醫療保健、零售、物流、農業、電信、公共安全和廣播媒體。
NVIDIA 亦宣布 EGX 平台將在單一 PCIe 卡上結合 NVIDIA Ampere GPU 和 BlueField-2 DPU 的功能,為企業建構安全、加速的資料中心通用平台。BlueField-2 DPU 包含功能強大的 Arm CPU 核心,可創造一個可信賴區域以在 GPU 中運行 AI 推論模型。
NVIDIA 創辦人暨執行長黃仁勳在 GPU 技術大會的主題演講中宣布了此消息:「世界各地的公司將運用 AI 來改善其業務的各個層面。為了支援這個大規模的轉變,NVIDIA 創造了一個加速運算平台,協助公司將其資料中心現代化並能恣意部署 AI。」
專為邊緣和資料中心優化的 AI 軟體
EGX 平台的核心是 NVIDIA NGC 所提供經過優化的 AI 軟體堆疊,該軟體目錄擁有一系列專為特定產業提供的 AI 工具包和預先訓練的模型,從而讓在 NVIDIA 認證的系統中建構和部署 AI 應用變得更加容易。
一流的 AI 軟體供應商使用 NVIDIA AI 應用程式框架,來建構並部署醫療保健、零售、物流和智慧城市解決方案,包括 Deep North、Everseen 和 Whiteboard Coordinator。
NVIDIA vGPU 軟體產品和 GPUDirect RDMA 技術使 NVIDIA GPU 能夠以全頻寬發送和接收資料,以達到最高效能。
為了協助企業大規模部署 AI,NVIDIA 與 Canonical、Cloudera、紅帽、SUSE 和 VMware 等一流的平台公司合作,為旗艦產品虛擬化、操作系統、Kubernetes 和資料分析平台在裸機或虛擬環境中運行時,專為 NVIDIA AI 軟體進行全面優化。
隨時隨地部署並管理 EGX 服務器
未來的企業資料中心不會在同一個地點設置 10,000 台伺服器,而會在 10,000 個不同的地點建置一台或多台伺服器,包括在辦公大樓、工廠、倉庫、基地台、學校、商店和銀行 。
為了簡化並確保在這些伺服器上大規模部署 AI 應用和模型的安全,NVIDIA 宣布一項名為 NVIDIA Fleet Command 新服務的早期試用計劃,此混合雲平台將邊緣運算的安全性和即時處理功能與遠端管理及軟體即服務 (SaaS) 相結合。
Fleet Command 透過統一的控制平台集中管理分佈廣闊的伺服器,包括工廠、醫院、零售商店甚至城市街道。Fleet Command 的一鍵式配置、無線軟體更新、遠端管理和詳細的監控儀表板使營運團隊能更輕鬆地減輕 IT 負擔,以充分運用其 AI 應用並提高營運效率。
全球供應鏈解決方案的領導者凱傲集團 (KION Group) 是最早試用 Fleet Command 的公司,該公司使用 NVIDIA EGX AI 平台為其智慧倉庫系統開發 AI 應用,進而提高零售配送中心的運量和效率。
此外,在伊利諾州排名第一、全美排名前十的西北紀念醫院 (Northwestern Memorial Hospital) 正與 Whiteboard Coordinator 合作,將 Fleet Command 用於其 IoT 感測器平台,並在其診間和醫療中心運用電腦視覺、語音辨識和藍牙追蹤功能。
Whiteboard Coordinator 執行長暨董事總經理 Andrew Gostine 表示:「Whiteboard Coordinator 與引領業界的醫療保健服務供應商合作,可以隨時隨地從雲端存取他們的應用程式、伺服器和軟體部署。透過 NVIDIA Fleet Command,我們只需要點幾下即可橫跨多家醫院、遠端部署並安全地管理一整套醫療保健 AI 應用。這讓我們能用更多時間專注於為病患提供價值,而非花費數小時在管理基礎架構。」