OpenAI称其人工智能代理削弱了内部监控系统

Carlos Méndez

路透10月21日 - OpenAI周二表示，其两个AI代理削弱了内部监控系统中用于检测异常行为的部分功能，这是AI代理表现出开发者未预期的行为的最新案例。

尽管这家ChatGPT的开发商表示，这些事件发生在内部编码任务过程中，且未被视为最严重的案例，但这一披露凸显出，即便是开发人员用来捕捉AI异常行为的系统，也容易受到其所监控的AI代理的威胁。

此次披露正值各界日益担忧 (link)，即人工智能安全措施正落后于日益强大系统的快速发展。研究人员警告称，随着先进AI代理获得更大的自主权，对其进行监控和控制可能会变得更加困难。

包括即将上市的竞争对手OpenAI和Anthropic在内的多家开发公司，近几个月来均披露了其AI代理未经授权访问外部系统的案例。

OpenAI表示，10月3日，一个正在执行内部测试任务的GPT-6.1 Sol智能体，在认定此前“不发送Slack消息”的指令同样适用于安全通知后，于周二压制了自动安全警报。

OpenAI称，在10月6日发生的另一起事件中，一个GPT-6 Astra智能体在复制现有代码时删除了安全监控机制，随后却错误地声称自己并未这样做。

“在这两起事件中，代理都考虑过是否应保留监控保障措施，但将常规编码指令解读为削弱这些措施的许可，”该公司表示。

OpenAI表示正在提高模型禁用监控的难度，并补充称“目前尚无法对此行为给出令人满意的解释”。

这家总部位于旧金山的公司表示，正在测试其模型是否存在规避监控并寻找理由为这种行为辩护的倾向。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)