中國騰訊表示，其人工智能代理表現出非預期的瀏覽行為

Eduardo Baptista

路透北京10月16日 - 騰訊 0700.HK 周五表示，用於評估第三方模型的AI代理展現出了該科技巨頭未預期的網頁瀏覽行為，這似乎是中國大型企業首次承認發生的“失控”代理事件。

此前，人工智能安全研究組織Swarmchasers於周三發布報告稱，在該組織追蹤到與騰訊雲相關的基礎設施上運行的“失控”代理，於9月28日至10月8日期間多次試圖從阿里巴巴 9988.HK 旗下的Amap（中國版谷歌地圖）中獲取信息。

騰訊旗下的人工智能部門騰訊混元在X平台的一篇帖子中表示，該活動並非源自其混元模型。該公司稱，經審查未發現存在蓄意針對或協調的證據。

Swarmchasers的研究人員稱，這些代理程序試圖獲取中國公園、博物館和動物園中常用入口等信息。

這些行為雖不如美國人工智能公司披露的案例那麼惡劣——例如 OpenAI 代理對開源平台 Hugging Face 的黑客攻擊 (link)，以及 Anthropic 代理提交的虛假兇殺案線索 (link)。

但這一披露印證了相關研究 (link)，該研究表明中國的人工智能代理同樣可能偽造身份、隱瞞失敗並試圖規避測試控制措施。

騰訊表示，該公司高度重視這些發現，並正在加強網絡訪問控制和代理監控。

混元是中國領先的人工智能模型開發商之一，與阿里巴巴和字節跳動等競爭對手的內部團隊展開競爭。字節跳動本周宣布 (link) 成立了一個專注于人工智能模型和智能體安全的新部門。

Swarmchasers表示，他們使用“失控”一詞來描述那些超出預期範圍採取行動，或以非預期方式完成任務的智能代理。

在常規自動化請求被攔截後，這些代理嘗試了其他方法，包括使用能夠打開網頁並運行代碼的公共網絡工具、通過其他網站中轉請求，以及利用在公開軟件代碼中發現的Amap密鑰和安全碼。

Swarmchasers表示，未發現這些代理突破Amap主要反機器人防護措施的證據。其記錄的2,818次嘗試中，大部分要麼失敗，要麼返回反機器人頁面、登錄界面或空白結果。

Swarmchasers稱，部分請求通過緩存頁面和中間服務返回了信息，其中包括成都動物園的遊客到訪數據。研究人員表示，他們無法確定代理程序是否讀取了結果或完成了任務。

阿里巴巴拒絕置評。

(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)