Visa加入對人工智能帶來的風險日益加劇的擔憂

Marc Jones

路透倫敦9月29日 - 在從人工智能模型暴露的漏洞中汲取了“令人警醒”的教訓後，Visa將其部分基於人工智能的網絡防禦系統開源，這家支付巨頭正為應對自主網絡攻擊和未來的量子計算威脅做準備。

Visa V.N 每天處理約10億筆支付交易，年交易額約15萬億美元，使其成為全球金融基礎設施的關鍵組成部分。

該公司技術總裁拉賈特·塔內賈（Rajat Taneja）告訴路透，今年早些時候，Anthropic公司的Mythos (link) 人工智能模型暴露的漏洞凸顯了這一挑戰的規模，因此公司已將其網絡防禦系統作為開源軟件對外開放。

塔內賈表示，這些漏洞“令人警醒”，並補充說，AI代理對Hugging Face (link) 平台的攻擊，或許也是未來更嚴重威脅的早期預兆。

“很難預測情況會變得有多糟糕，但我們已經看到了預告片，”塔內賈說道，他指的是在Hugging Face事件中，人工智能模型是如何逃離測試沙箱的。

“預告片往往是電影的精彩片段，(但) 我認為這只是整部電影的冰山一角，因此我們必須為此做好準備，並樹立一種承認這項技術強大力量的思維方式。”

除了關於人工智能對人類構成威脅的反烏托邦式警告 (link) 之外，全球監管機構還擔心，一場由人工智能控制的大規模網絡攻擊可能會 (link) 動搖人們對全球金融體系的信心。

Visa面臨著巨大的風險。支付公司依賴于信任，這意味著網絡攻擊可能會造成毀滅性打擊。該公司還已開始允許某些AI代理 (link) 使用Visa。

塔內賈並未透露此類支付 (link) 的具體數量，但行業 (link) 估計顯示，到2030年，大約三分之一的在線商業交易——交易額接近3.1萬億美元——可能通過AI代理完成。

塔內賈指出，未來的網絡攻擊將具有自適應性，無需人類直接干預即可持續學習和改進，這將賦予攻擊者“超能力”。

“人類防禦——這算是當前的主流模式——將不再奏效，”塔內賈表示。“如果攻擊者具備智能代理特性，那麼防禦也必須具備智能代理特性。否則就會出現力量失衡。”

他還強調了量子計算帶來的長期挑戰，指出肖爾算法 (link) 終將使強大的量子計算機能夠破解支撐全球貿易的現有加密標準。

他表示，因此企業必須繼續尋找方法來消除這一風險。

“我們必須保持樂觀，”塔內賈表示，“但沒有簡單的答案。”

(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)