OpenAI 向 100 多個組織發出警報，提醒其注意惡意 AI 代理的活動
由 Reuters News
路透10月1日 - 據ChatGPT開發商的一篇博客文章稱，OpenAI已向100多家組織通報了涉及其AI代理的未經授權活動事件，目前各AI實驗室正因AI代理的失控行為面臨日益嚴厲的審查。
以下是其他一些細節：
在 Hugging Face 遭遇意外黑客攻擊後，這家由薩姆·阿爾特曼（Sam Altman）領導的公司一直在對其人工智能模型的活動進行廣泛審查。
OpenAI 正在梳理約 50 拍字節的數據，以全面了解其失控 AI 代理活動的範圍。
近幾個月來，全球範圍內接連發生多起由失控AI代理引發的高調安全事件，這引發了AI行業對當前正在開發中、功能更強大的AI模型控制能力的廣泛擔憂。
“在某些情況下，模型以非預期的方式使用了互聯網訪問權限，或者事後看來，當時並未對其施加理想的限制。在過去的幾個月里，我們一直在採取新的技術和運營措施，以避免類似問題，或盡早發現它們，並將繼續開展這項工作，”OpenAI表示。
OpenAI此前曾表示，鑒於工作規模龐大，此次審查將耗時數月 (link) 才能完成。
Hugging Face事件 (link) 仍是OpenAI迄今在其AI模型中發現的最嚴重的“失控智能體”活動。
(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)