CIO 越來越積極地利用客製化 AI 堆疊和與業務軟體相一致的新功能來自動化和簡化業務流程 , 但以下有一些提醒。
文/Robert Mitchell·譯/柳百郁
就像其他 CIO,Katrina Redmond 也面臨眾多部署 AI 的契機,它們有望加速營運與操作處理,還能最佳化工作流程。「每個人都試圖套用這個飛速變動的技術,但沒有業務成果,就沒有意義。」電源管理系統製造商 Eaton Corp 的 CIO Redmond 如此說道。「我們必須持續關切商業成果,套用合理的使用案例。」
部份預定專案需要使用大型語言模型( LLMs)客製化開發,此外其他就只需要打開企業軟體裡那個新 AI 功能的開關即可使用。安永會計師事務所(Ernst & Young Global Limited, EY )的全球 AI 諮詢主管 Dan Diasio 如此說道,「AI 出現在每個軟體套件、每項技術,尤其是生成式 AI。」有些廠商,像是 Micrsosoft,則是將 AI 作為軟體的核心。
【 熱門精選:生成式 AI 不是資訊長唯一要做的事情 】
為了跟上技術,Redmond 成立指導委員會,依業務目標找出機會,並將預定專案的一長串清單削減到剩十幾項,範圍從存貨清單、供應鏈管理,到銷售預測。「我們不想就此放棄一切追尋下一個閃亮之星。」她表示。「我們要的是維持紀律並深入瞭解。」
位於康乃狄克州的韋伯斯特銀行( Webster Bank)資訊長 Vikram Nafde 表示,AI 概念驗證(PoC) 專案要成功還必須擁有令人滿意的商業效益。
「實施與執行 AI 模型的成本會很高,所以必須確實謹慎評定 AI 使用案例的商業價值。」他表示。「這些包含嚴格評估每項 AI 舉措相關潛在利益、風險與成本,確保投資是審慎的,且與風險等級剖析保持一致。」
早期正面成果
在伊頓公司(Eaton),有些概念驗證已有成果,他們使用 AI 整合全球 70 台以上 ERP 系統的資訊。Redmond 的團隊充份利用軟體開發商 Palantir Technologies 的專業,開發出一套「整合並清理從這些系統資料」模型,再分析資料,提供洞見與精密的建議給決策制定者。
舉例而言,若一個業務單位的生產短缺,須完成訂單組裝所需的八吋鋼棒,而另一業務單位手邊擁有十吋鋼棒,AI 可能會建議利用裁切較長棒子的方式,以利在期限之內交貨。「人們可以檢視這個作法是否合理,若確實合理, AI 便納入它的學習模型。」她如此表示。這個仍處於 Redmond 稱為「價值主張階段(value proposition stage)」的專案,已為公司電機業務帶來正面成果,「如期交貨有顯著改善。」她表示。
【 熱門精選:NVIDIA AI Enterprise 新增生成式 AI 微服務 】
韋伯斯特銀行也採取類似策略。「我們組成 AI 工作小組,由橫跨技術、架構、資料、資安、法律、風險與稽核的代表組成,這個工作小組不但有技術從業人員,也有業務人員,共同開發利用 AI 的最佳實作與治理框架。」Nafde 表示。該銀行也正尋求利用 AI 來協助內部操作流暢與提高效率,包括建置為業務需求量身訂作的客製化模型。例如,利用生成式 AI,實驗在評估貸款申請時,自動讀取公司客戶的財務報表。
「這個團隊在此階段必須讀取與理解許多財務資訊,而這些資訊幾乎都不是標準格式。」他表示。「生成式 AI 能夠讀取與提取必要資訊,並為人類做出摘要。」到目前為止,他表示:「我們相信這個良好的使用案例,讓團隊可以更快、更精確,且更有生產力。」
禮來公司( Eli Lilly and Company )也是率先採用並整合 AI 到業務上的先鋒。「我們發現 AI 不僅在令每個領域的工作負載更流暢發揮所長,還有助於促進研究調查與開發。」執行副總裁暨資訊數位長( CIDO ) Diogo Rau 說道。
如今,生成式 AI 協助新醫藥學開發,創造前所未見的分子,分析它們在新藥品開發的潛力,將多年工作壓縮成幾個月,有時甚至只要幾天,Rau 如此表示。
【 推薦文章:在生成式 AI 供應商選擇過程中權衡風險與報酬 】
禮來公司還開發 AI 工具管理並解讀治療裝置上病患的資料,再使用專利的「感知雲」改善用藥安全與效率。此外,也使用生成式 AI 自動開發軟體初始版本,產出支援臨床試驗的文件,並建立提交給監管單位的資料。
因 AI 而獲益的另一個領域是生產部門。「在禮來公司的各個廠區,充份利用複雜的演算法與模型,自動化導引車輛、全自動化倉儲、機器人與高自動化生產配備,提升並加速藥品生產。」Rau 表示。
合作關係很重要
為了建立針對 AI 專案的概念驗證(PoC),像伊頓公司的 Redmond ,這些 CIO 們開始轉而尋求可信合作夥伴的協助。「這是有必要的,因為我們沒有太多 AI 資源,而又需要模型啟動這一切。」她說道。「這在一開始會是很不錯的加速器。」但她補充道,提升內部團隊學習曲線,以便專案投入生產時降低成本,也很重要。
[ CIO都在讀 : 11 種立即降低 IT 成本的方法]
韋伯斯特銀行盡可能利用 Microsoft 和 AWS 等大型雲端運算業者(hyperscalers),同時讓銀行自有專家技術人員建置最符合其需求的項目,並盡量減少對顧問諮詢的依赖。資訊長 Nafde 表示,「這樣,我們就不必在建置和持續支援方面都花費昂貴的承包費用。」
信任 但要驗證
成功的概念驗證並不能保證最終的成功:利害關係人需要信任概念驗證。
舉例來說,伊頓公司以 AI 為基礎的銷售預測工具,擁有大幅提升生產力的潛力。目前,所有財務與銷售團隊花幾個月與數千工時審閱歷史資訊,並將這些資料與新銷售預測資料結合統整後,產生新的推測。
Redmond 表示,現在「AI 模型有可能為你做這些事。」她補充說明,伊頓公司去年第四季執行的預測性概念驗證專案,準確度已與現行處理方式不相上下,甚至可能更準確。
「這肯定比我們現在花數千小時處理還好。」她表示。問題在於人們對這項技術的信任程度是否達到足以放棄現在自行處理的工作。她解釋「我們還沒有到讓人放心放手的程度,現在仍處於『信任但要驗證』階段。」
另一個導致在 IT 內外部皆產生 AI 信任疑慮的原因是:在確切理解 AI 是如何決定輸出這方面,模型其實就是個黑盒子。
「就首度使用 AI 來說,我們處理的是非決定論的技術,它並非黑即白的二元概念。」Genpact 數位策略長 Sanjay Srivastava 如此說道。「例如,使用生成式 AI 得到的答案有 94% 正確,這就意味著需要一些監督或強化。 」
「這些工具無比強大,但有時會出現令人信服的錯誤。」EY 的 Diasio 表示。遺憾的是,即便如此人們還是往往不假思索。人需要使用工具並檢視輸出結果,不是隨便看看,而是詳細審閱。「必須花時間做這件事。」他說道。
Srivastava 表示,大部份專案流程都會將人放置最後來做最後決策,但關鍵是如何持續執行。「如何從數據轉化為洞察力,再轉化為可持續的行動? 」他問道。「這就是人們無法獲得具經濟效益成果的頭號原因。」
除了資料很重要之外?
就供應鏈與分析這類領域說而言,讓所有資料處於可供 AI 模型使用的格式是必要的。「資料乃是 AI 成功的關鍵。」Nafde 表示。
「資料策略優先於在 AI 策略,而 AI 策略需依循業務策略。」Diasio 同意這點。「確保你的資料可供 AI 系統搜索,這可能意味著利用生成式 AI 建置豐富的目錄,或利用生成式 AI 在結構化資料上建置資料本體。」他說道。「在眾多實例中,利用 AI 使這些工作負載流暢,可顯著提升生產力。在一些資料遷移任務中,我們發現整個流程各步驟提升 40%,且速度也提升了。」
禮來公司利用 AI 賦能工具,加速擷取與清理用於訓練的資料,並微調製藥模型,Rau 說道,而商業流程外包公司 Genpact 也利用 AI 準備資料供給 AI 模型使用。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球CIO同步獲取精華見解 ]
「我們有一堆資料,其中三分之二屬於非結構化。」Srivastava 表示。「你可以利用生成式 AI 自動在資料上建置語意層,並瞭解資料坐落於何處、資料連結、資料品質、資料處理歷程與其他用途。」這些任務不簡單,需要高超技術人才,這也是何以企業需邀請合作夥伴協同作業。但 AI 可以自動化建立語意層,雖不完美,但可能有 80% 完成度,Srivastava 表示。
然而,Diasio 表示,不見得一定需要組織內部資料,才能充份利用 AI。「舉例來說,使用生成式 AI 與市場上提供的預先訓練模型,產品開發這類創意性任務,或是客服中心官方記錄這類摘要性任務,都能在適切背景資訊設定與聰明提示下,有效率地開箱即用。」他說道。「有助於公司企業加速採用 AI,同時持續策劃內部資料,並收獲專業成果。 」
實施前 先確認 AI 功能適用性
「CIO 們應該在新興或現有含括 AI/ML 的 CRM、物聯網、ITSM與商業智慧工具上進行投資。」IDC 研究調查副總裁 Jevin Jensen 表示。
「選擇現有已採用的廠商解決方案裡所添加的 AI 功能,會大幅縮短上市時間。」可能只需要簡單打開功能或加入附加元件即可,且記得檢查不將自身資料用於訓練廠商模型即可,他表示。
即便 Salesforce 和 ServiceNow 提供的這類企業軟體新 AI 功能承諾能帶來實質工作流程生產力優勢,但仍不應該再未全面瞭解 AI 在工作流程中的定位,就直接打開這些功能。
「我們近期與 ServiceNow 進行了一場深度對談,瞭解如何使用智慧預測、虛擬聊天及與和我們商業策略一致的其他功能。」Nafde 說道。例如,銀行的虛擬聊天功能含括十多種使用案例。有些開箱即用,有些需要客製化,有些與目的不符。「我們必須決定哪個功能會有用。」他說道。
[ 好文推薦:資訊長透過 AI 重新詮釋自己的角色 ]
伊頓公司已開啟 ServiceNow 裡部份 AI 功能,迄今為止結果令人鼓舞。「從案例管理角度來看是有幫助的, 尋找我們能改進的缺陷線索、查找問題根源,繼而提供可降低案例數量的解決方案。」Redmond 表示。
使用企業軟體內嵌入式 AI 的難題在於,它可能無法提供針對目前企業組織需求具說服力的解決方案。這種狀況下,CIO 們 – 尤其是面臨競爭壓力的那些,可能發現進退兩難:「應該等待所處營運項目的應用軟體廠商整合 AI,犧牲上市時間等廠商建置,還是自行建置企業架構策略,擁有自有客製化執行與架構策略,但成本高昂且必須持續投資 ? 」Srivastava 問道。「這些在在充滿挑戰。」
禮來公司還充份利用其 IT 操作中的 AIOPs 功能。AI 賦能工具包括意外事件偵測與迅速偵測異常的應變系統、潛在問題升溫前即預測、確認問題根源與評估提術問題商業影響。「例如,當訂單處理系統出現延遲,AIOps 可以確認收益與客戶滿意度的影響程度。」Rau 表示。這麼作可以讓團隊排列優先順序,儘快解決最嚴重的問題。
資訊長該做什麼?
雖然韋伯斯特銀行仍處於 AI 歷程早期階段,Nafde 已學到教訓:「保持資料整齊,讓 AI 策略與你的商業策略保持一致。開始之前,將正確 KPI 放在正確位置。接著從小規模開始,展現價值驗證、逐步擴充,在歷程上的每個步驟與利害關係人進行溝通。」
初期階段,合作夥伴很重要,但要利用工具與專業團隊開發,並維護新 AI 功能。
不要低估建立信任的必要。「掌握資訊的先機。」他說道。「預設會被質疑,舉辦說明會來回答疑慮,並讓領導層參與。」總之,引入新技術之際,會有許多恐懼且多半不情願接受改變。
「這裡的挑戰不只關乎 AI,而是典型的變革管理問題。」他補充說明。
[ CIO都在讀 : 資訊長需釘在桌前的 13 項 IT 目標 ]
要有策略地限制採用專案的數量,Redmond 補充。「專注在少數幾個並深入研究。」尋找可信的合作夥伴,協助起步,再充份利用 SaaS 廠商已在產品導入的 AI 功能 – 當然是在合理前提下。不要忽略生態系統裡已存在的那些,她補充說明。
Rau 補充說明,「文化很重要,因為變革是艱辛的,所以 CIO 們必須透過展現尋求革新的開放心態,引領文化移轉,進而創造一個環境來鼓勵學習與 AI 創新。假若員工沒有盡其所能使用 AI,那將是最大的損失 !」取得小勝利,像是讓利害關係人使用新技術,直到他們感覺不錯,這確實能增強信心,Redmond 表示。「這麼做可以減少恐懼因素。」
(本文授權非營利轉載,請註明出處:CIO Taiwan)