OEM 廠商推出全球首批 NVIDIA 認證系統 以因應 AI 作業負載

人工智慧 (AI) 是當今最強大的技術，需要透過新一代電腦的調校和測試，以推動其前進發展。

從今天起，資料中心可以透過 NVIDIA 的合作夥伴取得最新的加速伺服器支援，以運行各項 AI 與資料分析作業。頂尖的系統製造商將推出首批 NVIDIA 認證系統，此為業界唯一針對現代運算作業負載進行測試的伺服器。

借助 NVIDIA 最新搭載 NVIDIA Mellanox 網路的 GPU，這些系統能夠加速處理 AI 作業。這些系統從不斷增長的海量企業資料中，挖掘傳統系統遺漏的寶貴資訊，進而提升機器學習的技術。

Dell Technologies、技嘉 (GIGABYTE)、慧與科技 (HPE)、Inspur 及美超微 (Supermicro) 近日紛紛推出取得認證的伺服器。NVIDIA 正與全球頂尖 OEM 廠商合作，推動 AI 在各個產業的發展。

企業 AI 的轉折點

隨著各大企業紛紛開始採用 AI，現在正是推出這些系統的最佳時機。

美國運通 (American Express) 使用最新的 AI 模型進行即時詐欺偵測；福特 (Ford) 利用生成對抗網路來產生測試自動駕駛車所需的資料；達美樂 (Dominos) 則利用 AI 技術改善每年三十億個披薩外送訂單準備時間的預測。

他們是眾多採用全新強大運算形式作業的企業之一，這種運算形式誕生於網路，且正擴展至零售、物流、金融及醫療保健等各行各業。

據 Gartner 估計，現有 37% 的組織在生產過程中使用 AI 技術，預估至 2024 年，這個比例將翻倍達到 75%。

大資料庫不斷擴展

每間公司都想在不斷增長的海量資料裡，找出具策略價值的洞察。例如，Walmart 超市每個小時需要處理超過 2.5PB 的資料量。

用於篩選海量資料的 AI 模型數量在短短五年內成長了近三萬倍，也因此推動了對加速運算的需求。而使用的模型多樣性和作業負載也不斷增加，因此，企業需要具靈活性的 GPU。

資料量與用於篩選資料的 AI 模型皆不斷成長，使得資料中心和網路邊緣流量呈指數增長。為此，企業需要一個安全、可靠、高速，並且可以有效擴大規模的基礎設施。

在人工智慧的測試中表現亮眼

NVIDIA 認證系統可提供企業 AI 所需的效能、可程式化特性及安全處理能力。這些系統結合了採用 NVIDIA Ampere 架構 的 GPU 的運算能力，以及安全的 NVIDIA Mellanox 高速網路解決方案。

為取得認證，系統需針對各種作業負載進行測試，包含從需要使用多個運算節點的作業，到只需單一 GPU 的部分運算能力即可完成的任務。

這些經過最佳化的系統能夠運行 NGC 目錄中的 AI 應用程式，NGC 目錄為 NVIDIA 針對 GPU 最佳化的應用程式中樞。

在 NGC 中也能使用持續增加的軟體開發套件，這些套件將 AI 帶入如醫療保健 (Clara) 和機器人 (Isaac) 等垂直市場。此外，NGC 也提供框架，協助企業開始使用如推薦系統 (Merlin) 與智慧影像分析 (Metropolis) 等新興的使用場景。

具體來說，NVIDIA 認證系統必須通過以下測試：

• 深度學習訓練與推論
• 機器學習演算法
• 智慧影像分析
• 網路與儲存裝置卸載

測試內容著重於實際的使用場景上，並在 NGC 目錄中取得熱門的 AI 框架和容器。因此，NVIDIA 認證系統讓每間公司都能取得與部分全球最強大的 AI 電腦背後相同的軟硬體。

一窺背後的奧秘

NVIDIA 認證系統包含功能強大的資料中心伺服器，其搭載多達八個 A100 GPU 和高速 InfiniBand 或乙太網路介面卡。其它包含為在企業網路邊緣運行 AI，而量身打造的主流 AI 系統。

OEM 廠商使用 NVIDIA Mellanox 電纜、交換機，以及如 ConnectX-6 InfiniBand 或乙太網路介面卡和 BlueField-2 DPU 等網路卡，對系統進行認證。這些網路卡除了擁有低延遲、高處理量的特色，還支援從啟動時的硬體信任根到應用程式的連接追蹤等多層安全保障。

每套系統皆使用 NVIDIA Mellanox 8700 HDR 200G InfiniBand 交換機或 Mellanox SN3700 乙太網路交換機進行認證。

所有 NVIDIA 認證系統均能獲得包括開放原始碼在內，完整軟體堆疊的企業級支援服務。因為我們希望能夠確保所有垂直市場的企業都能快速享受到 AI 帶來的好處。