文/F5
F5 BIG-IP Next for Kubernetes結合 NVIDIA BlueField-3 DPU,改變 AI 工作負載的應用交付
F5 宣布推出專為 Kubernetes 打造的 BIG-IP Next,一款創新的 AI 應用交付與安全解決方案,為服務供應商與大型企業提供集中控制點,以加速、安全且簡化在大型 AI 基礎架構的資料流量管理。
此解決方案利用高效能的 NVIDIA BlueField-3 DPU ,提高資料中心流量的效率,這對於大規模 AI 部署極為重要。透過整合網路、流量管理和安全的平台,客戶將能夠最大化資料中心資源利用率,同時達到最佳化的 AI 應用效能。這不僅提高了基礎設施效率,還加速了 AI 推理運算,提供更優質的 AI 驅動客戶體驗。
F5 BIG-IP Next for Kubernetes 是專為 Kubernetes 環境建置的解決方案,已在大規模電信雲端和 5G 基礎架構中得到驗證。透過適用於 Kubernetes 的 BIG-IP Next,為領先的 AI 應用情境,如推理、檢索增強生成(RAG)以及無縫資料管理和儲存等提供量身定制的技術支援。與 NVIDIA BlueField-3 DPU 的整合不僅大幅減少硬體佔用空間,實現精細的多租戶管理並優化能源消耗,同時提供高效能的網路、安全和流量管理。
F5 和 NVIDIA 技術的結合,使行動和固網電信服務供應商能夠輕鬆過渡到雲端原生(Kubernetes)基礎架構環境,滿足供應商轉向雲端原生網路功能 (CNF)模式的增長需求。適用於 Kubernetes 的 F5 BIG-IP Next 將資料密集型任務卸載到 BlueField-3 DPU,釋放 CPU 資源以提升核心業務應用的收益。此解決方案在虛擬化 RAN (vRAN) 或 MSO 的 DAA 的網路邊緣以及 5G 的核心網路中特別具效益,激發 6G 的未來潛力。
F5 BIG-IP Next for Kubernetes 專為高需求服務供應商和大型基礎設施設計:
簡化雲端規模人工智慧服務的交付:BIG-IP Next for Kubernetes 與客戶的前端網路無縫整合,降低延遲,同時提供高效能負載平衡,滿足 AI 模型的大規模運算需求。
提升對AI部署的控制:該解決方案提供集中整合點在現代AI網路,具有豐富的可觀察性。 BIG-IP Next for Kubernetes 支援 HTTP 以外的多種 L7 協議,確保在極高的效能下增強進出流量控制。
保護新的 AI 模式:客戶可以完全自動化發現與保護AI訓練和推理端點的安全。 BIG-IP Next for Kubernetes 能有效隔離 AI 應用與潛在威脅,強化資料完整性和主權,同時滿足現代 AI 環境至關重要的加密功能。
BIG-IP Next for Kubernetes在 NVIDIA BlueField-3 DPU 上的版本,將於 11 月開始提供。
支援引述
「AI 的普及促進了對先進半導體和技術的前所未有的需求。企業正在建立 AI 工廠和高度優化的環境,目標是訓練大型 AI 模型並以驚人的速度提供推理所需的處理能力,同時保持最低的延遲。F5 強大的應用交付和安全服務,與 NVIDIA 全端加速計算的協同作用,創造了一個強大的生態系統。這一整合為客戶提供了增強的可觀察性、細緻的控制和優化的性能,無論是在硬體加速層還是應用介面,皆能應對整個堆疊中的 AI 工作負載。」- Kunal Anand,F5 技術長與 AI 長
「服務供應商和企業需要加速運算,以在雲端規模中能安全、有效率地交付高效能AI應用。 NVIDIA 正與 F5 合作,加速 AI 應用交付,並最佳化確保由 BlueField-3 DPU 提供支援的最高效率和無縫用戶體驗。」 – Ash Bhalgat,NVIDIA 人工智慧網路與安全合作關係資深總監
「實現 AI 的潛力所需的資料處理能力,比產業預先準備的規模要更大。對於許多公司來說,部署尖端人工智慧需要大規模的基礎設施建設,而這些基礎設施往往非常複雜且昂貴,這使得高效、安全的營運比以往任何時候都更加重要。 F5 BIG-IP Next for Kubernetes 解決了大規模 AI 基礎設施的效能和安全問題。透過提供最佳化的流量管理,企業在 AI 模型推理期間獲得更高的資料擷取效能和伺服器利用率。這將大幅改善AI應用使用者的客戶體驗。」 – IDC 計算系統研究實務副總裁 Kuba Stolarski
「AI 工作負載的爆炸性成長引發了新一波對可擴展、優化和強化對Kubernetes 進出流量控制的需求。隨著 F5 現在將 BIG-IP Next for Kubernetes 的既有優勢,直接部署在NVIDIA BlueField-3 DPU 上,提供業經驗證的技術,並能在大規模 AI 部署的理想插入點部署。 WWT 客戶將能夠在模型訓練期間受益於更高的資料攝取效能和 GPU 利用率,以及在推理期間獲得更好的使用者體驗,同時獲得安全服務的策略控制點。 我們兩個最具戰略性的合作夥伴 F5 和 NVIDIA 的技術,進一步強化我們提供卓越數位安全的全球網路使命。 」 Todd Hathaway,WWT 人工智慧、應用程式和 API 安全解決方案全球實踐經理