针对可能出现失控等风险，香港金管局拟制订代理式AI治理监管框架

路透香港10月15日 - 香港金管局周四表示，人工智能（AI）应用正由生成式迈向代理式，因应可能出现失控代理等风险，金管局拟制订相关的Agentic A.I.治理监管框架，并于未来数周发布讨论文件收集业界意见。

此外，第二期GenA.I.（生成式AI）沙盒的技术测试近日结束，今天公布“ART”框架推动银行业负责任应用AI。

金管局并称：

• AI治理的复杂性增加，银行须以负责任的方式推进应用

• 代理式AI可自主规划并完成任务流程，大幅提升效率，但亦可能误解或忽视了原先设定的意图，出现失控代理（rogue agent）的风险

• 金管局未来数周推出代理式AI治理监管框架谘询文件，探讨“意图为本”的问责安排、重要AI代理纪录册及有效介入机制

• 公布“ART”框架，支持业界建立一个可问责（Accountability）、具韧性（Resilience）和可信赖（Trust）的AI赋能银行生态系统

• 加强对银行的指引，包括银行董事会及高管如何就AI应用落实有效治理及问责

• 金管局将与数码港及香港大学合作，建立AI训练数据共享平台

• 第二期GenA.I.沙盒的技术测试结果显示，超过60%用例涉及探索代理式AI，反映业界积极推进先进AI系统应用，例如自动规划，以及在授权和受控范围内执行多步骤任务

• 第二期沙盒包括来自20家银行及14家科技伙伴的27个应用案例

• 参与银行涵盖汇丰0005.HK、渣打2888.HK、中银香港2388.HK三大发钞银行；技术伙伴包括阿里云、蚂蚁数字科技等（完）