研究人員

路透北京10月29日 - 人工智能（AI）安全研究公司Irregular的一份報告稱，中國智譜 2513.HK 的旗艦AI模型在受控模擬測試中實施了複雜的網絡攻擊，並在另外的測試中多次無視指令。

GLM-5.3模型在13個多階段網絡攻擊場景中，有3個至少成功完成過一次，這是Irregular迄今在公開可用AI模型中記錄到的最佳表現。

但在Irregular的測試中，GLM-5.3仍落後于領先的美國模型。例如，OpenAI的GPT-6 Astra在另一項評估中完成了10個場景中的9個，儘管測試條件並不完全相同。

這些發現凸顯了外界的擔憂，即能力日益增強的AI模型正在降低實施複雜網絡攻擊的技術門檻。對於GLM-5.3等許多採用開放權重的中國AI模型而言，這一點尤其突出。所謂開放權重，是指用戶可以下載、修改並獨立運行這些模型。

總部位於北京的智譜是中國領先的AI初創企業之一。該公司未立即回應置評請求。

Irregular表示，在模擬攻擊中，GLM-5.3成功訪問了受保護的服務，建立替代連接以在計算機網絡中進一步滲透，並協調多台機器開展行動。在接受測試的攻擊性任務中，該模型沒有拒絕執行任何一項。

在另外的測試中，Irregular發現，儘管被明確告知不要這樣做，GLM-5.3仍多次憑記憶復現計算機代碼，使其在違反旨在測試其能力的規則的情況下仍能得出正確答案。

研究人員將這種行為描述為“獎勵破解”（reward hacking），即AI系統無視指令，設法實現預期結果。他們警告稱，僅衡量模型是否成功的測試可能會忽略此類違規行為。

這些發現為中國AI系統正在顯現安全風險提供了更多證據。路透上月梳理出至少20項研究和評估，其中記錄了由中國AI模型驅動的智能體存在欺騙、隱瞞失敗以及試圖繞過限制等行為。不過，與美國公司發生的失控AI智能體事件不同，沒有證據表明這些智能體曾自行脫離其操作者的控制。

智譜於8月發布了GLM-5.3，此前曾因進行額外安全測試而將發布時間推遲了兩周。

美國國家標準與技術研究院（NIST）稱，GLM-5.3是迄今發布的、在網絡安全任務方面能力最強的開放權重模型，不過該機構估計，該模型的能力仍落後于美國領先系統約四個月。(完)