針對可能出現失控等風險，香港金管局擬制訂代理式AI治理監管框架

路透香港10月15日 - 香港金管局周四表示，人工智能（AI）應用正由生成式邁向代理式，因應可能出現失控代理等風險，金管局擬制訂相關的Agentic A.I.治理監管框架，並于未來數周發布討論文件收集業界意見。

此外，第二期GenA.I.（生成式AI）沙盒的技術測試近日結束，今天公布“ART”框架推動銀行業負責任應用AI。

金管局並稱：

• AI治理的複雜性增加，銀行須以負責任的方式推進應用

• 代理式AI可自主規劃並完成任務流程，大幅提升效率，但亦可能誤解或忽視了原先設定的意圖，出現失控代理（rogue agent）的風險

• 金管局未來數周推出代理式AI治理監管框架諮詢文件，探討“意圖為本”的問責安排、重要AI代理紀錄冊及有效介入機制

• 公布“ART”框架，支持業界建立一個可問責（Accountability）、具韌性（Resilience）和可信賴（Trust）的AI賦能銀行生態系統

• 加強對銀行的指引，包括銀行董事會及高管如何就AI應用落實有效治理及問責

• 金管局將與數碼港及香港大學合作，建立AI訓練數據共享平台

• 第二期GenA.I.沙盒的技術測試結果顯示，超過60%用例涉及探索代理式AI，反映業界積極推進先進AI系統應用，例如自動規劃，以及在授權和受控範圍內執行多步驟任務

• 第二期沙盒包括來自20家銀行及14家科技夥伴的27個應用案例

• 參與銀行涵蓋匯豐0005.HK、渣打2888.HK、中銀香港2388.HK三大發鈔銀行；技術夥伴包括阿里雲、螞蟻數字科技等（完）