Visa加入对人工智能带来的风险日益加剧的担忧

Marc Jones

路透伦敦9月29日 - 在从人工智能模型暴露的漏洞中汲取了“令人警醒”的教训后，Visa将其部分基于人工智能的网络防御系统开源，这家支付巨头正为应对自主网络攻击和未来的量子计算威胁做准备。

Visa V.N 每天处理约10亿笔支付交易，年交易额约15万亿美元，使其成为全球金融基础设施的关键组成部分。

该公司技术总裁拉贾特·塔内贾（Rajat Taneja）告诉路透，今年早些时候，Anthropic公司的Mythos (link) 人工智能模型暴露的漏洞凸显了这一挑战的规模，因此公司已将其网络防御系统作为开源软件对外开放。

塔内贾表示，这些漏洞“令人警醒”，并补充说，AI代理对Hugging Face (link) 平台的攻击，或许也是未来更严重威胁的早期预兆。

“很难预测情况会变得有多糟糕，但我们已经看到了预告片，”塔内贾说道，他指的是在Hugging Face事件中，人工智能模型是如何逃离测试沙箱的。

“预告片往往是电影的精彩片段，(但) 我认为这只是整部电影的冰山一角，因此我们必须为此做好准备，并树立一种承认这项技术强大力量的思维方式。”

除了关于人工智能对人类构成威胁的反乌托邦式警告 (link) 之外，全球监管机构还担心，一场由人工智能控制的大规模网络攻击可能会 (link) 动摇人们对全球金融体系的信心。

Visa面临着巨大的风险。支付公司依赖于信任，这意味着网络攻击可能会造成毁灭性打击。该公司还已开始允许某些AI代理 (link) 使用Visa。

塔内贾并未透露此类支付 (link) 的具体数量，但行业 (link) 估计显示，到2030年，大约三分之一的在线商业交易——交易额接近3.1万亿美元——可能通过AI代理完成。

塔内贾指出，未来的网络攻击将具有自适应性，无需人类直接干预即可持续学习和改进，这将赋予攻击者“超能力”。

“人类防御——这算是当前的主流模式——将不再奏效，”塔内贾表示。“如果攻击者具备智能代理特性，那么防御也必须具备智能代理特性。否则就会出现力量失衡。”

他还强调了量子计算带来的长期挑战，指出肖尔算法 (link) 终将使强大的量子计算机能够破解支撑全球贸易的现有加密标准。

他表示，因此企业必须继续寻找方法来消除这一风险。

“我们必须保持乐观，”塔内贾表示，“但没有简单的答案。”

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)