Visa si unisce alle crescenti preoccupazioni sui rischi legati all’intelligenza artificiale

di Marc Jones

LONDRA, 29 settembre (Reuters) - Visa ha reso open source parte del proprio sistema di difesa informatica basato sull'intelligenza artificiale dopo aver tratto "umilianti" insegnamenti dalle vulnerabilità messe in luce dai modelli di IA, mentre il colosso dei pagamenti si prepara ad affrontare attacchi informatici autonomi e future minacce legate al calcolo quantistico.

Visa V.N elabora circa un miliardo di pagamenti al giorno per un valore di circa 15.000 miliardi di dollari all’anno, il che la rende una componente fondamentale del sistema finanziario mondiale.

Il suo presidente della divisione Tecnologia, Rajat Taneja, ha detto a Reuters che l’azienda ha reso disponibile il proprio sistema di difesa informatica come software open source dopo che le debolezze messe in luce dal modello di IA Mythos (link) di Anthropic all’inizio di quest’anno hanno evidenziato la portata della sfida.

Le vulnerabilità sono state «una lezione di umiltà», ha affermato Taneja, aggiungendo che l’attacco sferrato da agenti di IA sulla piattaforma Hugging Face (link) potrebbe anche rivelarsi un primo assaggio di una minaccia futura più grave.

«È difficile prevedere quanto possa peggiorare la situazione, ma ne abbiamo già visto il trailer», ha detto Taneja, riferendosi al modo in cui i modelli di IA sono sfuggiti a un ambiente di test isolato nell’incidente di Hugging Face.

«Spesso il trailer mostra i momenti salienti del film, (ma) credo che questo sia solo un piccolo frammento di come sarà il film, quindi dobbiamo prepararci e adottare una mentalità che riconosca la potenza di questa tecnologia».

Oltre agli avvertimenti distopici sulla minaccia dell’IA per l’umanità (link), le autorità di regolamentazione globali temono che un grave attacco informatico controllato dall’IA possa minare la fiducia (link) nel sistema finanziario mondiale.

Per Visa la posta in gioco è alta. Le società di pagamenti si basano sulla fiducia, il che significa che gli attacchi informatici possono avere conseguenze devastanti. Inoltre, ha iniziato a consentire a determinati agenti di IA (link) di utilizzare Visa.

Taneja non ha fornito dettagli sul numero di tali pagamenti (link) in corso, ma le stime del settore (link) suggeriscono che circa un terzo del commercio online – quasi 3.100 miliardi di dollari in transazioni – potrebbe passare attraverso agenti di IA entro il 2030.

Secondo Taneja, i futuri attacchi informatici saranno adattivi, in grado di apprendere e migliorare continuamente senza un intervento umano diretto, conferendo agli aggressori un “superpotere”.

«Le difese umane, che rappresentano in qualche modo il modello attuale, non funzioneranno», ha affermato Taneja. «Se l’avversario è un agente, allora anche la difesa deve essere un agente. Altrimenti si crea uno squilibrio».

Ha inoltre sottolineato la sfida a lungo termine rappresentata dall’informatica quantistica, affermando che l’algoritmo di Shor (link) potrebbe un giorno consentire a potenti computer quantistici di violare gli attuali standard di crittografia su cui si basa il commercio globale.

Ha aggiunto che le aziende dovranno quindi continuare a cercare modi per neutralizzare tale rischio.

«Dobbiamo essere ottimisti», ha detto Taneja. «Ma non esiste una risposta facile».

(A beneficio di chi non è di madrelingua inglese, Reuters automatizza la traduzione delle sue storie in una serie di altre lingue. Poiché la traduzione automatica può introdurre errori o non includere il contesto necessario, Reuters non garantisce l'accuratezza del testo tradotto automaticamente, ma fornisce queste traduzioni esclusivamente per la comodità dei suoi lettori. Reuters declina ogni responsabilità per danni o perdite di qualsiasi tipo causati dall'uso della funzione di traduzione completamente automatica.)