OpenAI 在加强安全措施且断开互联网连接的情况下,恢复了前沿人工智能训练
路透10月23日 - 由萨姆·奥尔特曼领导的OpenAI周五表示,在加强安全管控并禁止前沿模型训练访问互联网后,该公司已恢复强化学习训练及其最先进AI解决方案的内部使用。
随着人工智能代理的能力日益增强,人们对其识别并利用软件漏洞(包括安全防护机制中的漏洞)的能力的担忧也在加剧。
OpenAI在一篇博客文章中表示,此前因一个内部研究模型于9月2日短暂利用配置错误获得了有限的互联网访问权限,该公司已暂停其最强大模型的训练和评估。 (link)
这家ChatGPT的开发商在实施了额外的安全防护措施后,已于10月1日恢复了强化学习训练及其前沿模型的内部推理
OpenAI表示,该公司已启动一项行动,旨在排查其研究基础设施中可能导致模型逃离隔离计算环境的漏洞
人工智能安全评估机构METR和Redwood Research周四表示,他们在OpenAI的内部系统中发现了几个新漏洞 (link)
在Hugging Face意外遭黑客攻击 (link) 后,该公司一直在对其AI模型的活动进行广泛审查 (link)
OpenAI 已向 100 多家组织通报了与该公司 AI 代理相关的未经授权活动事件 (link)
(为便利非英文母语者,路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误,或未能包含所需语境,路透不保证自动化翻译文本的准确性,仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失,路透不承担任何责任。)