善用生成式 BI(GenBI)可以幫助 CIO 釋放 GenAI 與商業智慧(Business Intelligence,BI)的潛力,同時確保客戶資料的安全,本文將說分明。
文/Yash Mehta·譯/葉庭筠
生成式人工智慧(generative artificial intelligence,GenAI)從 2022 年出現在世人面前後,已成為多個企業領域的轉型力量。知名顧問公司麥肯錫(McKinsey)指出,GenAI 為多種營運職能創造的成本效益高達 2.6 兆美元。
然而許多企業主管卻因安全疑慮而怯於採用生成式 AI。IBM 一份報告指出,96% 主管認為採用生成式 AI 也會提高公司在未來 3 年內出現資安事件的機會。如果資料是新一代的石油,那麼它只有經過提煉才能展現用處。GenAI 則能加速提煉,而且提升其品質。但是資料同時也是必須保護的珍貴資源,而大型語言模型(large language model,LLM)向來被公認能威脅其安全性。那麼企業主管們如何在這兩種思維之間保持平衡?
迎接新一代 BI:GenBI
GenBI 旨在化解 GenAI 和商業智慧(BI)結合時帶來的困境。自助服務 BI(self-service BI,SSBI)工具讓非技術背景的用戶也能享受 BI 好處的承諾從未成真,現在 GenBI 誓言實現這個承諾。
SSBI 十年前出現時被視為一種革命,這類方案希望能將資料洞見從資料科學家的寶庫中釋放出來,提供給所有相關人士。然而一般人往往不知該要求哪張圖、表,或是如何找到原始資料以便將資料送入儀表板。即使有了 SSBI 工具,大部份工作還是落在資料科學家頭上,需要資料洞見的用戶仍然得乖乖排隊等 IT人員幫忙。
[ 熱門精選:得安全 AI 系統者 得天下 ]
相較之下,GenAI 允許用戶以自然語言提問,而且以更自然的方式探索資料。這類解決方案能了解用戶需求,並且自動依據用戶資料選擇最佳的公式表述。此外,許多 SSBI 平台只能產生靜態圖片及簡單圖表。GenBI 則可生成複雜而動態的視覺化結果,並允許修改、放大縮小,或是持續調查特定一組資料子集。
GenBI 的安全隱憂
話雖如此,環繞著 GenAI 的安全疑慮也同樣困擾著 GenBI 解決方案。GenAI 工具底層的 LLM 經常儲存用戶查詢或訓練模型使用的資料,這些資料專供特定用途,例如改進該 LLM。
因此這會引發 LLM 可能洩露企業獨有敏感資訊的重大風險。網路大廠的《思科 2024 年資料隱私標竿研究》顯示,48% 的受訪企業承認曾將企業私密的資訊輸入 GenAI 工具中,真實比例或許還更高。超過 1/4 的組織單位至少曾出於隱私和資安疑慮而短暫禁用 GenAI 工具一次。
同時間,企業用戶也擔心 GenBI 解決方案是否危及資料安全。如果資料不是代管在你自己的基礎架構上,你就無法確保其安全。此外,消費者也會擔心 GenAI 工具的隱私和安全性,因此這種部署方式也會損及客戶信任。
另一隱憂是欠缺透明度,令人擔心可能帶來偏見、幻覺和結果不值得信賴。開發商有什麼方法能解決這些問題呢?以下是 3 種可解決安全疑慮的 GenBI 及方法。
1. Amazon QuickSight 的 Amazon Q
Amazon AWS 的 BI 工具 Quicksight 中 GenAI 助理 Amazon Q 可協助用戶建立管理資料洞見。這些解決方案可回應自然語言的文字提示,建立儀表板及為資料自動化整理重點。利用 QuickSight 的 Amazon Q,每個用戶都能產出互動性的資料見解,再也不需要等 BI 專家或資料科學家更新資料或建立新的儀表板。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ,與全球 CIO 同步獲取精華見解 ]
Amazon Q 能理解和尊重企業管理員建立的用戶角色、權限許可、治理上的身份,藉此解決安全問題。該平台也保證不使用企業資料改進底層模型,而且不允許任何人使用 Amazon Q 存取權限許可以外的資料。
2. Pyramid Analytics
Pyramid Analytics 是專為讓企業用戶獨立存取和探索資料而設定的 GenBI 解決方案。使用者可以用自然語言,包括語音或文字提出查詢要求。這個解決方案甚至能將語義不清的文字提問找出邏輯,產出最能回答查詢的複雜視覺化結果、圖表和儀表板。每個回應結果都是動態的,使用者可以操作以針對資料特定面向或資料子集進一步探究,而且全部都是透過自然語言問題進行。
Pyramid 可在企業選用的 LLM 和資料之間提供一個保護層,藉此防護資料隱私和安全性。這家的解決方案能掃瞄資料源,建立帶有情境線索的元資料(metadata),再連同查詢送進 LLM。然後它會建議在安全平台執行資料操作,讓資料絕不會為 LLM 存取。Pyramid 能保證 LLM 無法在未授權情況下儲存、外洩或使用企業資料,因為它從頭到都無法存取資料。
3. Tableau Einstein Copilot
Einstein Copilot 是 Tableau BI 的 GenAI 助理,讓其用戶得以透過自然語言提示探索資料。這個助理能和相關人員合作,幫助他們更有效操作資料。用戶可以尋求助理提供資料或解釋視覺化的最佳建議,並且利用提供的儀表板和格式以獲取資料洞見。
Tableau 和 Eistein 背後的廠商 Salesforce 保證 LLM 不會記錄或儲存企業資料、用戶提示,以及它產出的回應結果。它還會掃瞄資料源產生情境化摘要傳送給 LLM,再用資料遮罩方法隱藏敏感的個人身份辨識資訊(personal identifiable information,PII)。它應用類似 Pyramid 的作法,確保 LLM 無法存取企業獨有的資料。
GenBI 可提供 GenAI 的能力但沒有相同的風險
在將企業資料送入 GenAI 工具之前有充份理由保持謹慎。企業必須維護資料安全、確保員工遵循資料隱私措施,並仔細審視任何可能存取資料的解決方案。但本文列出的三個 GenBI 方案都顯示,的確可能獲得 GenAI 的效益,而不必擔心資料外洩的風險。企業主管再也不必因擔心資安事件而對釋放資料威力卻步。正確的 GenBI 解決方案能將真正的自助服務 BI 洞見提供給所有需要的用戶,引導他們做出更佳的決策,並強化企業策略制訂。
(本文授權非營利轉載,請註明出處:CIO Taiwan)