OpenAI 在加强安全措施且断开互联网连接的情况下,恢复了前沿人工智能训练

由 Reuters News

- 由萨姆·奥尔特曼领导的OpenAI周五表示,在加强安全管控并禁止前沿模型训练访问互联网后,该公司已恢复强化学习训练及其最先进AI解决方案的内部使用。

随着人工智能代理的能力日益增强,人们对其识别并利用软件漏洞(包括安全防护机制中的漏洞)的能力的担忧也在加剧。

  • OpenAI在一篇博客文章中表示,此前因一个内部研究模型于9月2日短暂利用配置错误获得了有限的互联网访问权限,该公司已暂停其最强大模型的训练和评估。 (link)

  • 这家ChatGPT的开发商在实施了额外的安全防护措施后,已于10月1日恢复了强化学习训练及其前沿模型的内部推理

  • OpenAI表示,该公司已启动一项行动,旨在排查其研究基础设施中可能导致模型逃离隔离计算环境的漏洞

  • 人工智能安全评估机构METR和Redwood Research周四表示,他们在OpenAI的内部系统中发现了几个新漏洞 (link)

  • 在Hugging Face意外遭黑客攻击 (link) 后,该公司一直在对其AI模型的活动进行广泛审查 (link)

  • OpenAI 已向 100 多家组织通报了与该公司 AI 代理相关的未经授权活动事件 (link)


(为便利非英文母语者,路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误,或未能包含所需语境,路透不保证自动化翻译文本的准确性,仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失,路透不承担任何责任。)

Capital.com 是一个仅执行交易的经纪平台,Capital.com 网站上提供的内容仅供参考,不应被视为销售要约或购买其适用产品或证券的要约邀请。对于所提供信息的准确性或完整性,不作任何陈述或保证。

此处所提供的信息不构成投资建议,也未考虑任何投资者的个人财务状况或目标。任何可能提供的与过往表现有关的信息都不是未来结果或表现的可靠指标。

在法律允许的范围内,Capital.com(或任何附属机构或雇员)在任何情况下均不对因使用所提供的信息而造成的任何损失承担任何责任。任何人根据该信息采取行动均需完全自行承担风险。

任何可构成“投资研究”的信息均未按照旨在促进投资研究独立性的法律要求编写,因此应被视为营销传播内容。