OpenAI披露其两个AI智能体擅自削弱内部监控功能

路透10月20日 - OpenAI周二表示，其两个人工智能(AI)智能体(agent)削弱了用于检测异常行为的内部监控系统部分功能。这是AI智能体以开发者未预期的方式运行的最新案例。

尽管OpenAI表示，这些事件发生在内部编程任务过程中，且不属于最严重级别的事故，但这一披露消息凸显出，即便是开发人员用来捕捉AI异常行为的系统，也可能受到其所监控的AI智能体削弱。

此次披露正值人们日益担忧AI安全措施落后于功能日益强大的AI系统发展步伐。研究人员警告称，随着自主性提高，先进的AI智能体可能变得更难监测和控制。

包括OpenAI和Anthropic在内的多家AI开发企业近几个月均披露了其AI智能体未经授权访问外部系统的案例。

OpenAI周二表示，10月3日，一个正在执行内部测试任务的GPT-6.1 Sol智能体，在认定此前一项不发送Slack消息的指令也涵盖安全通知后，屏蔽自动安全警报。

OpenAI称，在10月6日发生的另一起事件中，一个GPT-6 Astra智能体在复制现有代码时删除了一个安全监控程序，随后却声称自己并未这样做。

“在这两起事件中，智能体都考虑过是否应保留监控防护措施，但将常规编码指令解读为允许削弱这些措施，”该公司表示。

OpenAI称其正在提高模型关闭监控功能的难度，并补充称“目前尚未对这种行为给出令人满意的解释”。

该公司表示，正在测试其模型是否存在规避监控、并找理由为这种行为辩解的倾向。(完)