採訪/施鑫澤·文/鄭宜芬
AI 時代來臨,傳統 IDC 機房已經不敷市場需求。是方電訊董事長吳彥宏 12 日表示,現今 AI 伺服器愈來愈「貴重」,新世代資料中心無論是電力容量、樓地板承重、抗震能力到水冷、氣冷兼備的散熱系統等基礎設備,都需要全面進化,才能滿足「驕貴」的 AI 伺服器要求。
在 AI 時代,算力即國力,企業上雲趨勢是好是壞?是方表示,各家企業上雲與業務息息相關,許多客戶本身就是雲端供應商,是方不僅提供多元性的服務,而且身兼海外基站中心與網際網路架構中心,許多雲端服務供應商大型的 ISP等設備都建置於是方 LY2 AI 機房,因此企業上雲趨勢對是方來說是正面影響。一般舊機房無法乘載市場需求,但 LY2 不論在氣冷、水冷或液冷都準備好了,未來算力中心占比則會視客戶進駐情況而定。
是方:GB 系列耗能不見得太嚴重
據了解,目前 NVIDIA 最新的 GB 200 晶片因其電晶體的複雜結構和高熱功耗需求,散熱功耗達到 1,500 瓩,現行風扇氣冷散熱模式已不敷使用,需要更強大的液冷散熱技術。
對於市場高度關注 GB 200 的散熱門檻,劉耀元表示,GB 系列對於散熱的要求會比 H 系列更高,H 系列一個機櫃約需 100 多瓩的散熱功耗,但由於技術不斷的進步,GB 系列所需要的散熱能力估計也是維持在 100 多瓩,「對散熱的需求未必高很多,要打破業界的迷思」。
LY2 短期內尚無規劃浸沒式冷卻技術,但已導入氣冷、水冷與液冷的設施,每個機櫃電力容量可達到 200 瓩以上,應對 GB 系列應不會有問題,即使未來有更先進的需求,相信可滿足外界所需。
「開個玩笑,以前進 IDC 機房會覺得很冷,所以要加衣服,但是以後進 IDC 機房會覺得很冷,要脫衣服。」劉耀元指出,隨著ESG話題的演變,未來整個伺服器的設計概念已經在轉變,不需要耐高溫,而是以常溫水做熱交換,這樣才可以把耗能降到最低,以PUE接近於1的架構去散熱,這是未來趨勢。
每平方公尺樓地板載重達 2 噸
面對生成式 AI 的蓬勃發展,資料中心以及各項基礎設施都必須重新設計。在新的挑戰之中,最關鍵的就是電力、散熱及載重需求。傳統的資料中心,機櫃電力 4 至 6 瓩,載重到 1000 公斤就已經足夠;如今隨著 AI 伺服器架構不斷升級,機櫃電力容量至少要滿足到 10 瓩,特殊規格的 GPU 伺服器機櫃甚至需要 200 瓩才算達標,而單一 AI 伺服器機櫃重量可達到 1,500 公斤至 2,000 公斤,這意味著資料中心的樓地板承重必須升級以支撐更重的重量,連帶也需要更強大的隔震系統和阻尼器來抵禦地震的潛在可能災害。
吳彥宏針對全台資料中心現況表示,現今 AI 伺服器愈來愈「貴重」,新世代資料中心無論是電力容量、樓地板承重、抗震能力到水冷、氣冷兼備的散熱系統等基礎設備,都需要全面進化,才能滿足「驕貴」的 AI 伺服器要求。是方斥資新台幣 30 多億元打造 LY2 智慧機房,今年 6 月開啟商用服務,因為迎合 AI 趨勢,銷售率已超過 70%,明年預計達 80%以上。
依據產業分析師預估,輝達最新 GB 200 NVL72 AI 伺服器機櫃售價約為 300 萬至 400 萬美元,而傳統伺服器只要數萬美元,顯然驕貴的新型伺服器更加需要額外保護。況且,新世代AI伺服器不僅愈來愈「貴」,而且也愈來愈「重」。
劉耀元表示,目前市場上最迫切需要的,就是符合 AI 運算架構的新世代智能資料中心。以LY2 AI 機房來說,佔地 5,000 坪,為地上 7 層地下 2 層建物,規劃 1,800 個機櫃,以滿足 AI 伺服器電力,散熱及載重需求,每個機櫃可滿足 10 瓩到 200 瓩之電力需求,各樓層皆挑高 6 米,可以支援先進的水冷及氣冷式風牆設計,樓地板載重達到每平方公尺 2,000 公斤,整棟建築可預防 7 級強震,大樓設計同時符合智慧建築與綠建築規範。
此外,是方已向 NCC 申請「國際海纜電路出租業務」,並於今年 5 月取得核准,積極擴增國際頻寬,對外頻寬已超過 1200G,服務範圍涵蓋超過 40 個國家及 60 個城市,國內高速頻寬則透過「三環三線」計畫,持續推動是方成為東亞數位匯流中心。
(本文授權非營利轉載,請註明出處:CIO Taiwan)