NVIDIA AI Computing by HPE推出全新企業級AI解決方案,提升模型訓練、調校與推論的效能、安全性及能源效率
文/HPE
Hewlett Packard Enterprise 與NVIDIA宣布擴展其全新企業級AI解決方案NVIDIA AI Computing by HPE產品組合,協助客戶加速部署生成式(Generative)、代理型(Agentic)及實體AI模型,更快發揮AI的商業價值。此解決方案具備更卓越的效能、更高的能源效率與安全性,並針對全端一站式私有雲AI解決方案新增多項功能。無論企業規模大小,都能高效進行AI模型的訓練、調校與推論。
「AI正為企業帶來重大機遇,但要實現大規模應用,企業需要精簡的整合型AI解決方案,」HPE總裁暨執行長Antonio Neri表示。「為了充分釋放AI的潛力,HPE與NVIDIA攜手推出完整的AI解決方案組合,協助企業加速創造商業價值,從而提升生產力並開創新營收來源。」
「AI正在各個產業引發巨大變革,企業正加速打造AI基礎設施以發展人工智慧應用,」NVIDIA創辦人裁暨執行長黃仁勳Jensen Huang表示。「為加速這場變革,NVIDIA與HPE共同提供企業所需的全方位基礎架構,協助企業開發、訓練及大規模部署AI—包括在生成式AI、代理型AI、機器人與數位孿生技術。這項合作將加速企業的AI轉型,同時創造全新的生產力與創新機會。」
HPE Private Cloud AI 提供代理型資料與應用程式的一站式解決方案
HPE正在擴展其HPE Private Cloud AI功能,使其支援全新的NVIDIA AI Data Platform。HPE Private Cloud AI結合NVIDIA AI Data Platform, 為企業提供最便捷途徑,有效發揮企業資料價值,進而推動資料導向之決策。
HPE Private Cloud AI搭配HPE GreenLake雲端平台提供自助式雲端體驗。NVIDIA AI Data Platform則持續通過客製化參考架構,將資料轉化為實用的商業情報,該架構整合了NVIDIA的加速運算、網路和AI軟體與企業儲存系統——這些元素都已存在於HPE Private Cloud AI中。
經由HPE與NVIDIA持續協作開發,HPE Private Cloud AI專為快速部署支援NVIDIA AI Data Platform的藍圖和模型而設計,如NVIDIA AI-Q Blueprints和用於NVIDIA Llama Nemotron 模型的NVIDIA NIM微服務,這些模型具備推理能力。
HPE Private Cloud AI的全新功能包括:
- 全新HPE Private Cloud AI開發者系統:新開發者系統為HPE Private Cloud AI產品組合增添了即時AI測試與開發環境。該系統採用NVIDIA加速運算技術,並包含整合型控制節點、端對端AI軟體與32TB的整合儲存空間。
- 統一且順暢的邊緣至雲端資料存取:HPE Data Fabric Software是HPE Private Cloud AI資料湖倉與HPE全新統一資料層的骨幹,可確保AI模型在混合雲環境中持續獲得優化且優質的結構化、非結構化與串流資料。
- 預先驗證的NVIDIA Blueprint加速創造價值:HPE Private Cloud AI現可支援快速部署的NVIDIA Blueprints,讓用戶能夠立即從NVIDIA豐富的代理型和實體AI應用程式庫中獲益。透過預先驗證的Blueprints,包括多模態PDF資料擷取Blueprint和數位孿生Blueprint,HPE Private Cloud AI簡化了複雜的AI工作負載,提供更高的效能和更快的價值實現。
HPE OpsRamp提供AI系統全方位監控與管理功能
HPE OpsRamp的GPU優化解決方案現在提供AI原生軟體系統全方位監控與管理功能,協助企業管理大型NVIDIA GPU叢集上的訓練與推論工作負載效能。這項新的GPU優化功能可透過HPE Private Cloud AI獲得,也可以獨立使用以擴展至大型叢集。
HPE也將GPU優化功能納入其全新的AI系統Day 2維運服務中。此服務結合HPE Complete Care服務與NVIDIA GPU效能最佳化技術,幫助IT團隊更有效地管理、優化混合環境中的AI工作負載,並主動發現及解決潛在問題。
全新代理型AI使用案例與服務
- 於HPE Private Cloud AI上部署Deloitte Zora AI :Deloitte Zora AI財務解決方案與HPE Private Cloud AI的聯合解決方案即將提供給全球客戶使用。HPE將成為首家導入此代理型AI平台的企業,此解決方案能將傳統的靜態財務報告轉變為動態、按需式與互動式的決策體驗,應用範圍包括財務報表分析、情境模擬、競爭與市場分析。
- Crew.AI加入HPE Unleash AI計畫提供多重代理自動化服務:Crew.AI可協助企業快速建置代理型AI解決方案,提升團隊效率與適應力,使其作出更明智的決策。透過與HPE Private Cloud AI整合,企業能夠安全部署並擴展以AI代理為基礎的自動化功能,靈活滿足特定業務需求。
- HPE推出代理型AI專業服務:新服務可以幫助企業識別、建構並部署適用於各種業務流程的代理型AI模型,透過整合NVIDIA NIM微服務與NeMo框架(兩者皆為NVIDIA AI Enterprise軟體平台的一部分),結合HPE Private Cloud AI,加速創造商業價值。
搭載NVIDIA Blackwell Ultra及Blackwell架構的全新HPE AI伺服器
NVIDIA AI Computing by HPE推出全新AI伺服器,為AI模型訓練、調校與推論提供全方位支援。搭載NVIDIA Blackwell Ultra和NVIDIA Blackwell平台。所有伺服器均可導入NVIDIA加速運算、網路與NVIDIA AI Enterprise軟體,為下一代AI應用提供最佳效能、效率、可靠性和擴展性。
- NVIDIA GB300 NVL72 by HPE結合HPE液冷技術,幫助服務供應商和領先企業部署大型AI叢集,可訓練兆級參數模型。此產品能提供前所未有的效能,具備最佳化的運算能力、擴增的記憶體與高效能網路連線,適用於AI推理、代理型AI與影像推論等應用。
- HPE ProLiant Compute XD伺服器將支援最新NVIDIA HGX B300 平台,適用於希望訓練與調校大型AI 模型的客戶,處理最複雜工作負載,包括代理型AI和推理應用。
- 配有NVIDIA GB200 Grace Blackwell NVL4 Superchip的HPE ProLiant Compute DL384b Gen12為客戶提供突破性效能,適用於整合HPC與AI工作負載,包含科學運算、圖神經網路(GNN)訓練和AI推論應用。
- 配備新款NVIDIA RTX PRO 6000 Blackwell Server Edition的HPE ProLiant Compute DL384a Gen12是基於PCIe的資料中心解決方案,為各種企業AI推論與視覺運算工作負載提供頂尖效能。
全新HPE ProLiant Gen12伺服器提供全生命週期的安全防護
HPE iLO內建業界領先的晶片信任根技術,確保伺服器生命週期的每個階段安全無虞。最新的HPE ProLiant Compute Gen12產品組合為企業安全性樹立了新標竿。其導入了「安全隔離區」(secure enclave)增強型專用安全處理器,建立堅不可摧的信任鏈,不僅能防禦韌體攻擊,還提供從工廠端到HPE信任供應鏈的完整可視性。此款搭載HPE iLO 7的產品是首款支援後量子密碼學的伺服器,符合FIPS 140-3 Level 3高層級加密安全標準的嚴格要求。
模組化且節能的AI資料中心
- 五十年的液冷專業技術:近五十年來,HPE協助客戶應對AI與高效能運算(High Performance Computing,簡稱HPC)等資料密集型工作負載所帶來的挑戰,包括不斷攀升的電力需求與資料中心密度問題。HPE在設計、建造和管理複雜的液冷環境方面擁有悠久歷史與專業技術,並成功打造出 Green500全球最節能超級電腦排行榜前15名中的8台超級電腦。
- 適用於AI與HPC工作負載的模組化高效能資料中心:HPE專業資料中心服務推出AI Mod POD,這是專為AI與HPC工作負載所設計,採用NVIDIA加速運算,並能提供最佳效能的模組化AI資料中心。此資料中心具備極高的成本效益,單一模組可支援高達1.5MW的運算能力,並可快速部署,大幅縮短上市時程。HPE AI Mod POD支援HPE的AI與HPC伺服器以及HPE Private Cloud AI,並透過HPE的專利Adaptive Cascade Cooling技術,提供支援氣冷、100%液冷與混合式液冷的單一混合冷卻系統,以滿足資料密集型工作負載的能源需求。