AMD 在「資料中心與人工智慧技術發表會」上揭示將塑造運算未來面貌的產品、策略以及產業體系合作夥伴,推動新一波資料中心創新。AMD與Amazon Web Services (AWS)、Citadel、Hugging Face、Meta、Microsoft Azure和PyTorch共同展示與各產業領導者的技術合作細節,為市場帶來新一代高效能CPU與AI加速器解決方案。
AMD董事長暨執行長蘇姿丰博士表示,AMD在實現資料中心策略上再度向前邁出重要一步,擴大的第4代EPYC處理器產品陣容為雲端和技術運算工作負載提供領先業界的全新解決方案,而我們也與最大的雲端供應商發表全新公有實例和內部部署。AI是塑造新一代運算的決定性技術,也是AMD最大的策略性成長機會。我們專注於加速AMD AI平台在資料中心的大規模部署,計劃於今年稍後推出Instinct MI300加速器,同時,為AMD硬體作出最佳化的企業級AI軟體產業體系將持續壯大。
為現代資料中心進行最佳化的運算基礎架構
AMD揭示第4代EPYC處理器產品線的一系列更新資訊,為客戶提供滿足企業獨特需求所需的專業化工作負載。
- 進一步提升全球最頂尖資料中心CPU的效能-第4代AMD EPYC處理器持續擴大效能與能源效率的領先優勢。AMD與AWS展示新一代Amazon Elastic Compute Cloud (Amazon EC2) M7a實例的預覽,搭載第4代AMD EPYC處理器(代號為“Genoa”)。此外,Oracle宣布計劃推出搭載第4代AMD EPYC處理器的新款Oracle Computing Infrastructure (OCI) E5實例。
- 為雲端原生運算帶來頂尖效能-AMD推出先前代號為“Bergamo”的第4代AMD EPYC 97X4處理器。憑藉每插槽128個“Zen 4c”核心,新款處理器為在雲端運行的應用提供最高的vCPU密度與領先業界的效能,同時帶來能源效率的領先優勢。Meta指出第4代AMD EPYC 97X4處理器為Instagram、WhatsApp等Meta主流應用程式提供卓越效能;與第3代AMD EPYC處理器相比,第4代AMD EPYC 97×4處理器為Meta各種工作負載帶來顯著的效能提升,同時大幅度的減少TCO,AMD與Meta對EPYC CPU進行最佳化,以滿足Meta對功耗效率與運算密度的要求。
- 為技術運算打造更卓越產品-AMD推出搭載AMD 3D V-Cache技術的第4代AMD EPYC處理器,是用於技術運算的全球最高效能x86伺服器CPU。微軟宣布全面推出Azure HBv4和HX實例,採用搭載AMD 3D V-Cache技術的第4代AMD EPYC處理器。
AMD Al平台-The Pervasive Al Vision
AMD發表一系列產品訊息,展現如何推展AI平台策略,提供客戶涵蓋雲端、邊緣、終端的硬體產品,結合與業界進行的深度軟體合作,發展可擴充與全方位的AI解決方案。
- 為生成式AI推出全球最先進的加速器-AMD揭示AMD Instinct MI300系列加速器產品線的最新細節,包括推出AMD Instinct MI300X加速器,為全球最先進的生成式AI加速器。MI300X採用新一代AMD CDNA 3加速器架構,支援高達192 GB的HBM3記憶體,提供大型語言模型推導與生成式AI工作負載所需的運算力與記憶體效率。憑藉AMD Instinct MI300X的大容量記憶體,客戶可處理Falcon-40B等大型語言模型,僅需使用一個MI300X GPU加速器就能處理400億個參數的模型。此外,AMD推出AMD Infinity架構平台,將8個MI300X加速器整合至業界標準設計,打造極致的生成式AI推論與訓練環境。MI300X將從第3季開始向各大客戶送樣。AMD同時發表AMD Instinct MI300A,為針對HPC與AI工作負載所開發的全球首款APU加速器,現已開始向客戶送樣。
- 向市場推出開放、經過驗證、可立即運行的AI軟體平台-AMD展示為資料中心加速器所打造的ROCm™軟體產業體系,展現其就緒性以及與產業領導者合作,聯手推動開放AI軟體生態系的發展。PyTorch分享AMD與PyTorch基金會之間的合作,從上游全面提供ROCm軟體堆疊,透過ROCm 5.4.2版本在所有AMD Instinct加速器上為PyTorch 2.0提供即時的Day-0支援。這樣的整合為開發人員提供廣泛的PyTorch AI模型,可在AMD加速器上「開箱即用」。面向AI開發者的領先開放平台Hugging Face宣布將在AMD Instinct加速器、AMD Ryzen和AMD EPYC處理器、AMD Radeon GPU、Versal及Alveo自行調適處理器等AMD平台上最佳化數千個Hugging Face模型。
瞄準雲端與企業的強大網路產品陣容
AMD展示陣容強大的網路產品線,包括AMD Pensando DPU、AMD超低延遲NIC與AMD自行調適NIC。AMD Pensando DPU結合軟體堆疊與「零信任安全性」以及領先業界的可程式化封包處理器,打造全球最智慧與最高效能的DPU。AMD Pensando DPU在IBM Cloud、Microsoft Azure和 Oracle Compute Infrastructure等雲端合作夥伴大規模部署。在企業中,AMD Pensando DPU部署在 HPE Aruba CX 10000 Smart Switch中,並與領先的IT服務公司DXC等客戶合作,並透過VMware vSphere Distributed Services Engine分散式服務引擎為客戶加速應用程式效能。
此外,AMD發表AMD Pensando Software-in-Silicon開發套件(SSDK),讓客戶能快速開發或遷移各項服務,在AMD Pensando P4可程式化DPU上進行部署,並與建置在AMD Pensando平台上豐富的現有功能並存運行。AMD Pensando SSDK讓客戶能夠使用AMD Pensando DPU領先業界的效能,在其基礎架構上運行並打造客製化的虛擬化與安全功能,配合已建置在Pensando平台上的現有功能並存運行。