擁有野心訓練 AI 模型的資訊長,會看見 Nvidia 這家 GPU 製造商新產品的價值:全新的 Blackwell 硬體架構,與優化人工智慧模型推斷能力的軟體套件。
文/Grant Gross·譯/曾祥信
GPU 巨擘 NVIDIA 將公司未來押注在 AI 上,他們最近發表的一些項目,重點都在於更進一步推動 AI 技術的能力,同時讓更多組織能夠使用這項技術。在三月中的 GTC (GPU Technology Conference) 大會上,NVIDIA 發表了 Blackwell,一款效能強大的全新 GPU,能夠在兆級參數規模的大型語言模型(LLM) 和 NVIDIA NIM 微服務上面執行即時 AI。NIM 微服務(NVIDIA Inference Microservices) 是針對數十種最常見 AI 模型,優化其推斷能力的軟體套件。NVIDIA 創辦人兼執行長黃仁勳也在他兩小時的主題演講中也發表了幾項其他技術,包括新的人形機器人專案。
[ 好文推薦:資訊長透過 AI 重新詮釋自己的角色 ]
對某些資訊長而言 – 例如,只需要部署簡單 AI 聊天機器人或自動產生 Zoom 會議摘要 – Blackwell 和 NIM 微服務或許不是突破性的進展,因為效能較為遜色的 GPU 與 CPU 已足以執行小型的人工智慧運算工作。然而,對於尋求特殊運算能力的資訊長,例如:需要針對特定用途訓練 AI,或是必須執行龐大 AI 專案,很可能就會看見 Blackwell 專案的價值。
[ 熱門精選:調配有限人力與 CIO 領導力是關鍵 ]
Forrester Research 企業架構資深分析師 Alvin Nguyen 表示,如果 Blackwell 書面規格能化為現實,這款全新 GPU 將為 NVIDIA 帶來競爭對手無法匹敵的 AI 運算效能。「到這種階段時,他們基本上已具備從晶片到資料中心的全面解決方案」,他如此說道。
無與倫比的 AI 能力
Nguyen 補充道,對於有心發展 AI 的資訊長來說,Blackwell 的問世意謂著他們將有能力嘗試超級晶片或專用伺服器。Blackwell 將能讓具有重大 AI 需求的企業,部署所謂的 SuperPOD,即 AI 超級電腦。Blackwell 還能讓口袋夠深的企業得以建立 AI 工廠,由整合的運算資源、資料儲存、網路、工作站、軟體與其他部份組合而成。
國際數據資訊 (IDC) 半導體研究副總裁 Shane Rau 補充道,Blackwell 的用途相當明確。他說,隨著 AI 模型規模越來越大,企業將需要更多運算效能來進行訓練和推斷,後者是經過訓練的人工智慧根據新資料推導出結論的過程。
[ 好文推薦:生成式 AI 將對 DevSecOps 產生重大影響 ]
「隨著在 2023 年訓練的大型語言模型與人工智慧逐步部署,資訊長很快就會知道哪些模型有效、哪些無效,進而展開重新訓練與重新部署的週期」,Rau 說道,因此,「企業對於 Blackwell 的需求將會非常強烈」。
Rau 表示,如果組織沒有訓練自己的大型語言模型,那麼 Blackwell 的 AI 使用案例,會高度倚賴組織本身的產業垂直領域與內部工作流程。他說:「當一個組織具有更多特定應用程式的運算工作,而可用資源越少時,他們花在等待 AI 解決方案和 AI 模型標準化的時間就會越長」。
Rau 提到,NVIDIA 用來優化 AI 模型推斷能力的軟體套件 NIM,應該也會獲得市場關注,因為很多公司沒有能力訓練 AI 來達到他們的目的。
「並非所有人都有資源,能夠大規模地訓練及部署 AI 模型,也不是所有人都想購買通用的模型,尤其當他們只需要特定運算工作所需的模型時」,Rau 如此說道,「因此,預先訓練好的模型與現成的運行模型,讓 IT 人員可以購買、直接使用,或許只需做微幅調整就能符合需求,這對於企業和網路擴展 AI 規模是絕對必要的」。
[ 熱門精選:優先投資生成式 AI?切勿忽視 IT 基礎設施 ]
法律網站 LCC Attorney 的科技長 Javier Muniz 表示,除了 AI,Blackwell GPU 也能供具有其他大量運算需求的資訊長使用。
「像 Blackwell 這樣的 GPU,能夠為眾多領域帶來突破性的變革,例如資料分析、3D 模型、密碼學、甚至進階網頁呈現等領域 – 運算速度和效能在這些領域至為關鍵」,他說道,「就資訊長能獲得的好處來說,許多資訊長擁有需要處理和分析的巨量資料集,而 GPU 能夠大幅減少這些運算所需的時間」。
AI 可以擴充嗎?
NVIDIA 的黃仁勳在其主題演算中,吹捧 GPU 驅動加速運算對於 AI 與其他用途的好處,並表示通用型運算已經 「失去動力」。但是 NVIDIA 在大會期間發表的許多項目,並未解決 AI 在硬體方面持續存在的挑戰。
GPU 市場仍在從各種因素造成的供應短缺中恢復,其中包括加密貨幣採礦與 AI 專案的高度需求。Numenta 執行長 Subutai Ahmad 表示,任何專注於 AI 專案的公司,都應該密切關注 NVIDIA 在高階人工智慧 GPU 市場的領先地位。Numenta 是一間提供擴充人工智慧規模平台方案的公司,他們是 NVIDIA GPU 的潛在競爭對手。
「NVIDIA 的霸主地位,加上 GPU 與 GPU 零件的短缺情況,意謂著資訊長必須尋找替代方案」,Ahmad 說道,「企業不能只使用單一技術來源,然後讓自己在 AI 專案上陷入困境」。
同時,黃仁勳在主題演講中談到擴展運算能力的必要性,以便在維持企業實力的前提下,降低運算成本。但 Forrester 的 Nguyen 指出,AI 仍存在擴充性的問題,目前為止,AI 的成本與效能需求,並沒有隨著企業增加用戶或工作負載而逐漸減少。
Nguyen 表示,現在公司可以投入更多 GPU 來處理人工智慧運算負載,但這不是長久之計。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球CIO同步獲取精華見解 ]
他說:「問題在於,一旦你有了前 100 位用戶,然後你再添加 100 個用戶,運算成本是否會變得更便宜?運算需求是否會變小?答案是,還沒有」。
Nguyen 補充道,儘管 NVIDIA 與其他硬體供應商一再強調他們的成長能力,但目前只有超大規模企業才有能力負擔人工智慧工廠和最高效能的大型語言模型。他說:「企業可以擁有有效的基本效能,但仍然得面臨長期擴充性的問題」。
(本文授權非營利轉載,請註明出處:CIO Taiwan)