產業 AI 化與資安韌性
文／鄭宜芬‧刊期／2024.11
2024 年諾貝爾物理學獎得主 － 美國科學家霍普菲爾德（John J. Hopfield）與人工智慧領域先驅者辛頓（Geoffrey E. Hinton），因在 AI 發展方面催生開創性的成果而雙雙獲獎，卻也一致呼籲全球應該更深入理解深度學習系統內部運作機制，以防止 AI 失控。霍普菲爾德警告，近期 AI 技術的發展令他感到「非常不安」，若不加以控制，恐招致災難性後果；辛頓認為科技巨頭的競爭愈演愈烈，並持續遊說美國政府暫緩研發 AI，強調外界必須嚴肅考慮如何管控 AI。
AI 發展速度超乎預期，數位發展部政務次長林宜敬表示，ChatGPT 連結的數量約以每年 10 倍到 100 倍的驚人速度成長，即使專家示警其危險性，但要暫緩 AI 的研發幾乎不可能，尤其美中較勁的局勢對臺灣構成了嚴峻的挑戰。為此，我國擬定策略：發展主權 AI、建立 AI 產業生態系，以及進行 AI 分級、分類、檢測，以應對日新月異的 AI 戰場。
一、發展主權 AI
開發 LLM 的成本非常高昂，像是 OpenAI 或是 Meta 的 Llama，每開發一個世代的 LLM，約需投入新台幣 1,500 億到 3,000 億元，以 OpenAI 來說，每年約開發兩代 LLM，這筆花費就堪比臺灣一年的科研經費。
為了應對緊迫的局勢，國科會 TAIDE 計畫以 Meta 的 Llama 為基礎，加強繁體中文及臺灣觀點的訓練，開發各式基於 TAIDE 的 AI 工具，應用於立法院答詢系統以及公文寫作系統。
[ 加入 CIO Taiwan 官方 LINE 與 Facebook ，與全球 CIO 同步獲取精華見解 ]
二、建立 AI 產業生態系
臺灣若要擁有強健的 AI 發展，建立自由競爭的環境是關鍵。政府提供四個政策工具：算力、資料、人力、資金，以建立完整的 AI 產業生態系。
◆ 算力
數發部、國網中心、Nvidia Taipei-1、優聯科技等皆提供 GPU 算力池。數發部 AI 算力池的共擁有 32 片 H100 與 8 片 MI300X，每家業者可免費使用 0.5 片的 Nvidia H100 或 AMD MI300X，以及 1TB 儲存空間，使用時間為期 6 週。申請流程自 7 月中開放，9 月中正式使用，透過評審機制，輔導 60 家資服／新創業者提升算力。
例如，台灣大哥大申請使用數發部的 AI 算力池，並將客服與語音資料基於現有的大模型進行微調，透過本土化的語音轉文字模型（Automatic Speech Recognition，ASR）推出創新服務，應用於電話問診、老人照護以及電話客服。
◆ 資料
臺灣在 LLM 的開發上不易追上美國腳步，但可以利用卓越的健保巨量資料庫，開發出全球獨一無二的 AI 醫療系統。
數發部成立了資料匯流代理（Proxy）機制，負責收集內政部、外交部、衛福部、交通部等各部會的資料目錄。AI 研究人員可依據研究需求提出資料申請，數發部再根據需求向對應的部會索取資料，並進行資料的彙整與去識別化處理。經過隱私保護強化後，將相關資料回傳給研究人員。然而，該計畫仍有待於克服挑戰性，不僅須確保個人資料保護與資料安全，還需確認研究人員的操作權限符合法律規範，才能在保障民眾隱私的同時兼顧資料應用效能。
[ 推薦閱讀：【專訪】數位發展部部長黃彥男 ]
◆ 人力
為推動 AI 在公務機關的應用，數發部與人事行政總處合作，制定了一系列 AI 人才培育計畫，目標提升公務人員的 AI 知識與技能，並加強政府機構在數位轉型中的競爭力。
AI 種子工作坊：
包括工作坊、AI 議題、AI 基礎課程與線上課程，提升其 AI 基礎知識。
AI 運用工作坊：
涵蓋民眾需求分析與應用工作坊，強調 AI 技術在實際業務中的應用。
AI 推動業務種子人員課程：
包括 AI 基礎課程、AI 趨勢與發展課程，以及 AI 推動業務實踐與課程，旨在培訓負責推動機構內 AI 專案的實施與管理。
公務機關人員參與 AI 工作坊後，會有實際應用成果的展現，促使各機關有效應用 AI 技術，提升業務效率。此計畫從基層到高階，全面覆蓋不同層級的公務人員，為政府機構提供了完整的 AI 人才培育路徑，助力政府內部推廣與落實 AI 技術。
◆ 資金
推出《加強投資 AI 新創實施方案》草案，國發基金匡列 100 億元投資 AI 新創企業，並與民間資金搭配投資，原則投資比例 1:1，期限為 10 年，投資對象包括：國內 AI 新創、數位經濟相關產業之企業（不含上市、上櫃公司）。
[ 推薦閱讀：強化數位韌性 因應未知挑戰]
產業AI 化、AI 產業化
為打造臺灣成為人工智慧之島，國科會提出「智慧科技大南方產業生態系推動方案」，規劃以「擴算力」、「鏈場域」、「引人才」、「展應用」等四大策略布局，促成「AI 產業化、產業 AI化」，建構大南方產業生態系。同時推動「智慧雨林產業創生」，透過跨部會合作，提供系統設計暨整合服務平台、算力、場域和業師等資源，並協同學研單位，形成一個多方合作的產官學研平台，聚焦在「需求分析能力」和「自主 AI 系統設計能力」，協助 AI 技術在中小企業中的應用和普及。
具體執行方式如，國科會與教育部利用科技大學的研發能量與教授的專業知識，由數發部組織軟體產業，包括中華電信、臺灣受恩、誼誠資訊、肚肚餐飲等業者，整合公協會以匯聚產業需求業者，在中南部的產業園區舉辦媒合會，進一步串聯輔導廠商，如漢翔航空、朝友工廠、台灣製罐工業、春雨工廠等，針對長照、金屬成型、航太產業、扣件產業、餐飲業等，協助百工百業發展 AI 系統。
林宜敬指出，軟體產業是國家發展 AI 產業的關鍵，臺灣的硬體產業雖然實力強大，軟體產業卻相對薄弱，主要原因是許多電機資訊相關人才受高薪吸引投入了半導體領域，導致軟體產業面臨人才短缺的問題。同時，軟體開發成本高昂，臺灣因市場規模小，使得軟體開發難度更高，若要推動軟體產業的發展，勢必需要走向國際市場。
為邁向海外，第一步要先在臺灣建立基礎，讓軟體產業能夠賺到第一桶金；第二步是通過產品展示來提升曝光度。因此，數發部除了在臺灣舉辦媒合會，還協助廠商參與國際競賽，期望藉此扶植本地軟體業者，將 AI 技術導入各行各業，推動臺灣軟體產業走向全球，拓展國際市場。
[ 推薦閱讀：政府科技採購大翻新]
三、AI 分級、分類、檢測
而在利用 AI 時為了有效管理和控制潛在風險，也需要進行分級、分類和檢測，以保障安全性、透明性和公平性。
整體而言，美國認為科技的發展是來自於競爭，態度傾向於開放，透過分類與風險指引公開模型的風險，提供業者參考應對；歐洲則強調嚴謹的分級與分類，讓產業遵循相關規範。我國近期也積極研擬 AI 基本法，並即將在立法院討論將採取美國或歐盟模式。
◆ AI 分級
除了歐盟分成四級外，美加澳多強調「高風險／高影響 AI」為主。AI 系統風險分級方式相近，皆重視對健康，安全與基本權利之影響。
美國的分級方式為，若 AI 系統所做出之決定會影響消費者獲得關鍵領域之權利，該決定即為「關鍵決策」而可以影響關鍵決策之 AI 系統稱為「高風險人工智慧系統」。
◆ AI 風險指引
美國聯邦政府、新加坡、日本、韓國等皆未將 AI 系統或模型進行風險分級，而是提出參考文件或指引，鼓勵業者自主採取因應措施，防範風險。
以美國為例，《前瞻 AI 模型安全法案》為先進模型的安全開發建立規範，防止重大危害；《AI 透明度法》要求特定 AI 系統提供者遵循義務，建立 AI 系統透明度，以保護消費者；《AI 安全行政命令》要求美國公司部門以安全、可信賴的方式發展 AI，並期望藉由全面性的命令，引導各領域思考如何應對 AI 風險；《NIST 人工智慧風險管理框架 1.0》為自願性框架將風險分為對民眾、組織及生態系統三種危害。
◆ AI 分級、檢測
數發部、工研院與資策會針對各個版本的 Llama 跟 ChatGPT 進行準確性、可靠性、公平性、資安及隱私等方面的檢測，為 AI 基本法的制定提供更完整的參考依據。
透過佐證文件進行人工查核驗證：
˙ 安全性 Safe
關注 AI 系統失效時對人類、環境或資產之保護能力。
˙ 可解釋性 Explainable
關注 AI 系統決策行為原因與邏輯之解釋能力。
˙ 透明性 Transparency
關注 AI 系統對於所擁有資訊之揭露能力。
˙ 當責性 Accountable
關注 AI 系統決策與行為之追溯能力。
˙ 韌性 Resilient
關注 AI 系統面對不同的環境、需求及條件之適應能力。
可進行自動化／半自動化技術性驗證：
˙ 可靠性 Reliability
關注 AI 系統面對未預期情況之穩定能力。
˙ 公平性 Fair
關注 AI 系統針對不同群體與個體之公平對待能力。
˙ 準確性 Accuracy
關注 AI 系統輸出結果之準確能力。
˙ 隱私 Privacy
關注 AI 系統對於隱私資訊之保護能力。
˙ 資安 Secure
關注 AI 系統面對資安攻擊或不當使用之防護能力。
從諾貝爾獎得主示警 AI 的風險，到我國政府推動主權 AI 的發展策略，全球各國都戰戰兢兢應對 AI 所帶來的挑戰。林宜敬最後總結，AI 是威脅，也是機會，透過數發部三大策略，在產業 AI 化的同時強化資安韌性；也透過創新技術與政策支持，讓臺灣有望在 AI 發展中找到優勢，推動產業升級與強化數位韌性。
(本文授權非營利轉載，請註明出處：CIO Taiwan)
