成本不確定性和 AI 資料洩漏的恐懼,讓 CIO 們在 AI 的時代重新思考雲端策略,混合雲能夠成為長期平衡測試、成本控制和資料安全的可能解決方案。
文/Paula Rooney·譯/潘得龍
私有雲服務供應商可能是當前生成式 AI 熱潮的主要受益者之一,曾經似乎過時而轉向公有雲的 CIO,現在正重新審視私有服務的方式,不論是採用內部部署或由合作夥伴託管。這一轉變的核心在於,為了支持 AI 工作所必須的負載而又能控制成本,企業長期而言,將採用公有雲和私有雲的混合模式。
Sun Country Airlines 的資深副總裁兼 CIO Jim Stathopoulos 指出,「隨著數據和雲端領域的快速變化,我們相信雲端和資料中心的混合模式戰略,會是正確的決定」。Jim Stathopoulos 於 2023 年初從美國聯合航空公司來到這家區域航空公司,當時公司採用的是 Microsoft Azure 雲端基礎設施和 Databricks AI 平台,但對未來的 IT 決策則持開放態度。
控制不斷上升的雲端和 AI 成本以及防止資料外洩,是企業想要採用混合基礎設施作為 AI 解決方案的主要原因。大多數專業人員同意,涉及內部部署或共同託管的私有雲混合方案,將是大多數 IT 領導者在面對 AI 資源需求以及關鍵業務負擔時,確保成本控制和資料完整性的正確選擇。
IDC 的雲端分析師 Dave McCarthy 表示,在這裡,像 Dell APEX 和 HPE GreenLake 這樣的私人雲平台,採用生成式 AI 作為企業支持方案,會是企業客戶目前的主要需求之一,也可以與 Equinix 等合作夥伴共同託管私有雲處理工作負載。
McCarthy 說:「AI 所帶來的的興奮和相關風險,只會強化對私有雲的需求。企業需要確保私人公司資料不會進入公共 AI 模型中。CIO 正在努力運用公有雲的 LLMs 提供的最大價值,同時將敏感資料保存在他們自己能掌握的私有雲中。」
生成式 AI 改變了雲端的運算方式
Somerset Capital Group 選擇將他們的 ERP 應用程式轉移到私有雲,以為生成式 AI 做準備。
這家位於康乃狄克州 Milford 的金融服務公司,在十多年前將資料遷移到公有雲,並持續增加公有雲的工作負載,特別是一些以客戶為中心的應用程式。但該公司的關鍵數據以及未來與生成式 AI 有關的資料,則將可能會運行在其新委外的私有雲上,Somerset 的執行副總裁兼 CIO Andrew Cotter 如此表示。
他說:「在我們測試和初步試用 AI 時,我們選擇盡可能保持私密性。」他並指出,雖然公有雲擁有當前許多大規模語言模型所需的運算能力,但如果有需求,他的公司可以選擇藉由將其自有的 Dell 設備增加 GPU 而擁有一定的 AI 運算能力。「你不會希望看到自己的資料被別人的模型吸收或成為其中的一部分這樣的錯誤,因此我們保持嚴格控制,並將資料保存在私有雲中。」
[ 熱門精選:生成式 AI 發展迅速!企業策略恐落後? ]
Kyndryl US 的資深副總裁 Todd Scott 認為,AI 和成本是推動企業選擇私有雲的主要因素之一。
他說:「大多數企業目前在公有雲上測試與運用 AI,但我們預期客戶終會將他們的 app 整合在一起,同時讓 AI 與資料在相同的位置運行,也就是私有環境,或是在邊緣運算裝置上。」
Scott 說:「往私有雲移動的另一個因素是成本的可預測性,敏捷型的企業,按定義來說,會頻繁異動他們的應用程式,因此有時會看到當他們將資料保存在公有雲上的時候,成本會有大幅波動的現象。私有雲則能提供更多的可預測性,因為基礎設施是專屬於企業的。」
購買私有雲
分析師指出,私有雲的支出正在持續增加。根據 Forrester 在 2023 年針對基礎設施雲調查中,約有 1,300 名企業雲決策者有 79% 表示,他們的公司正在建置內部私有雲,這些私有雲將採用虛擬化和私有雲管理解決方案。而有近三分之一 (31%) 的受訪者表示,他們正在使用混合雲架構的管理解決方案 (如軟體定義儲存和 API 一致的硬體)構建內部私有雲,以使私有雲更像公共雲。
IDC 預測,全球在私有、專用雲服務上的支出 (包括託管私有雲和專用雲基礎設施以及服務),將在 2024 年達到 204 億美元,到 2027 年將超過兩倍。根據 IDC 的資料,2024 年全球在企業私有雲基礎設施上的支出 (包含硬體、軟體和支持服務) 將達到 518 億美元,到 2027 年將增長到 664 億美元。
[ 推薦文章:Accenture 導入雲端控制工廠 強化雲端安全 業務營運與開發過程更高效 ]
儘管這些數字相較於公共雲在 2024 年預計達成的 8,157 億美元,顯得格外的少,IDC 的 McCarthy 認為混合雲基礎設施是大多數企業在這一領域的未來。McCarthy 表示,HPE 和 Dell 等公司推出的即用型私有雲產品,讓客戶可以在本地或提供託管服務的共置設施中直接運行私有雲。
他指出,私有雲還可能幫助企業能更好地控制整體的雲端成本,但這兩者都有優缺點。「企業在這方面有些進退兩難」,McCarthy 說。「安全問題是推動他們使用私有雲的原因,但執行大規模 AI 所需的專用硬體相當昂貴,且需要大量的電力和冷卻系統。這是一個像 Equinix 這樣的公司認為他們可以協助解決的問題,因為他們允許企業在 Equinix 的資料中心建立私有雲,而這些資料中心已經具備處理這類基礎設施的條件。」
Cloudbench 創始人,同時也是前微軟、德勤和 IBM 的主管 Tom Richer 同意,私有雲供應商和共構夥伴將從 AI 中受益。「對私有雲行業而言有巨大的發展空間,他們需要擁抱生成式 AI 以實現成長的可能性。生成式 AI 模型可以學習一般資料分佈的樣態,並在即時資料流中檢測到異常或異常的數值值。私有雲平台可以運用生成式 AI 在各個領域進行異常偵測應用,像是網路安全、欺詐偵測和預測性維護。」他說:「私有雲供應商可以提供生成式 AI 服務,幫助企業開發預測模型、進行模擬或執行『假設』分析,而無需在本地擁有大量資料集或大量運算資源。」
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]
即使如此,生成式 AI 帶來的資料隱私問題依然存在,一些 IT 領導者仍然習慣於在公有雲上運行所有工作負載。協助美國證券交易委員會所的 IT 服務部門,FINRA 美國金融業監督管理局,的 CIO Steve Randich 同意,AI 的發展可能為私有雲打開大門,但他堅定認為 AWS 公共雲的安全性是堅不可摧的。「這是一個存在的擔憂,但我認為這與某些雲端供應商有關,而不是所有雲端供應商。」Randich 指出 FINRA 在 AWS 上擁有最大的資料集,他說:「我們的立場是繼續使用 AWS 公有雲服務,並且不考慮私有或混合雲。」
變動中的雲端策略
無論未來 IT 領導者在企業 AI 業務負載上的決策如何,曾被宣判已死的私有雲,現在卻被供應商一致認為是未來的需求。
例如,HPE GreenLake 是一種服務類型的產品,根據 HPE 的說法,它提供相對於資料中心和其它位置類似雲端彈性的服務,但是卻有更高等級的資料安全性。這類私人雲端解決方案消除了多租戶資料洩漏的風險,這是 CIO 對 AI 運算的一個主要關注點。Home Depot 和研發實驗室 Ofino 宣稱利用 HPE 可以將雲端成本減少高達 90%,並在與 HPE 的共構合作夥伴 CyrusOne 合作,能夠滿足其私有雲的需求。
HPE 的混合雲營運長 Hang Tan 說:「AI 就像是終極的混合工作負載,你會有一些非常突發的事情,但針對大型模型訓練甚至推論,你會有一個基礎負載,如果你想要能夠相當自信地預測這個負載,那麼這應該全部放在私有雲中。」
[ 推薦文章:澳洲最大鋁冶煉廠的雲端之旅已轉向 ]
Voya Financial 在 2018 年啟動他們的數位轉型時,選擇了公有-私有混合模式,這是一個採取比較謹慎的方法進行工作負載配置的組織。儘管執行副總裁和 CIO Santhosh Keshavan 主要關心的,是不想錯過可能的公有雲端創新,但保留私有雲端足跡的決策,在各方面對他的公司都是有利的。
他說:「並不是每個應用程式都準備好在雲端上運行,對於那些不需要在 Microsoft Azure 或 AWS 還是任何雲端上運行的應用程式,我們傾向於將之保留在私有雲上。正如並非每個應用程式都適合公有雲,也並非每個組織都適合。
位於奧斯汀附近、正在建設主要三星半導體工廠的德州威廉森市,自 2017 年以來,一直遵循私有雲路線,主要原因是法院數位證據的法律責任,以及政府機構在快速成長地區的頻寬需求,CIO Richard Semple 如此表示。
Semple 說:「我們別無選擇,即使到最後你已經做得非常完美,仍然要對這些資料的安全性和完整性負責,然後將風險轉移給其他人會是個解決方式?」儘管如此,CIO 並未排除未來向公有雲遷移的可能性。
Semple 說:「我們希望為未來保留更多的選擇。」對於所有重新考慮其雲端策略的 CIO 而言,AI 是能夠最快改變方程式的少數變項之一。
(本文授權非營利轉載,請註明出處:CIO Taiwan)