更新版 1-Anthropic警告稱，AI模型可能很快會在智能家居設備上自我複製

路透10月13日 - Anthropic周一表示，小型AI模型距離在聯網設備上實現自我複製可能僅需數月時間，這增加了AI僵屍網絡迅速擴散、抵禦清除嘗試，甚至入侵數據中心以加速其增長的可能性。

上個月，Anthropic首席執行官達里奧·阿莫迪（Dario Amodei）首次提出 (link) 這一想法，即在未來一年內甚至更早，人工智能可能通過“一個持久的僵屍網絡”劫持“整個互聯網”，這一警告在網絡安全界引起了廣泛關注。

僵屍網絡——即由惡意運營商控制的龐大設備網絡——自互聯網早期便已存在，至今依然活躍。

該網絡通常包含安全防護薄弱的物聯網（IoT）設備，例如安卓電視盒、智能家電和安防攝像頭，黑客利用這些設備發送垃圾郵件、散播惡意軟件，或通過海量虛假流量對目標公司進行破壞。

Anthropic公司周一發布的博客文章 (link) 似乎是首次嘗試闡明這種攻擊可能如何發生。

該公司表示，其實驗表明，一個惡意AI代理能夠整合廉價聯網設備的計算能力，從而運行其他AI模型。該公司補充道，這些模型能夠在簡化的測試網絡中進行複製。

“此類複製器很難被關閉，因為沒有可以切斷的集中控制點，”該公司表示。

該報告加劇了人們對日益強大的人工智能系統所帶來安全風險的廣泛擔憂，包括其自動化網絡攻擊、在有限的人為監督下運行以及繞過安全防護措施的潛在能力。

模型技術的進步已促使業界領袖和人工智能公司員工發出了一系列往往十分嚴峻的警告，指出失控的人工智能發展可能帶來嚴重甚至關乎生存的風險。

Anthropic表示，其實驗表明，參數數在300億及以下的模型已經能夠執行自我複製所需的許多單項任務，儘管它們難以可靠地完成整個過程。

在簡化測試中（部分安全步驟被移除），Anthropic發現GLM-5.2及更強大的模型已具備端到端自我複製的能力。

Anthropic表示，如果較小規模的模型繼續以歷史上的速度改進，到2026年底，它們就可能達到自主複製所需的能力。

Anthropic 指出，在低功耗硬件上運行的 AI 蠕蟲可能需要數天時間才能完成部分複製過程。該公司補充道，如果受感染的設備能進一步感染足夠多的其他機器，這樣的網絡便能持續擴張，儘管其速度會慢于某些傳統惡意軟件。

Anthropic 還警告稱，未來的系統可能會將目標鎖定在更強大的計算資源上，包括數據中心處理器，儘管其實驗並未展示通過商業數據中心進行自主複製的情況。

(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)