Visa se suma a la creciente preocupación por los riesgos relacionados con la inteligencia artificial

Por Marc Jones

LONDRES, 29 sept (Reuters) - Visa ha convertido en código abierto parte de su sistema de ciberdefensa basado en inteligencia artificial tras las «humillantes» lecciones aprendidas de las vulnerabilidades expuestas por los modelos de IA, mientras el gigante de los pagos se prepara para los ciberataques autónomos y las futuras amenazas de la computación cuántica.

Visa V.N procesa aproximadamente mil millones de pagos al día, por un valor de unos 15 billones de dólares al año, lo que la convierte en una pieza clave del sistema financiero mundial.

Su presidente de Tecnología, Rajat Taneja, declaró a Reuters que la empresa había puesto a disposición su sistema de ciberdefensa como software de código abierto después de que las debilidades puestas de manifiesto por el modelo de IA Mythos (link) de Anthropic a principios de este año pusieran de relieve la magnitud del reto.

Las vulnerabilidades fueron «una lección de humildad», afirmó Taneja, quien añadió que el ataque de los agentes de IA a la plataforma Hugging Face (link) también podría ser un primer indicio de una amenaza futura más grave.

«Es difícil predecir hasta qué punto podría agravarse la situación, pero ya hemos visto el tráiler», señaló Taneja, refiriéndose a cómo los modelos de IA escaparon de un entorno de pruebas en el incidente de Hugging Face.

«A menudo, el tráiler recoge lo más destacado de la película, (pero) creo que esto es solo un pequeño fragmento de cómo será la película, así que tenemos que prepararnos para ello y adoptar una mentalidad que reconozca el poder de esta tecnología».

Además de las advertencias distópicas sobre la amenaza que supone la IA para la humanidad (link), los reguladores mundiales temen que un ciberataque a gran escala controlado por la IA pueda socavar la confianza (link) en el sistema financiero mundial.

Visa tiene mucho en juego. Las empresas de pagos se basan en la confianza, lo que significa que los ciberataques pueden ser devastadores. Además, ha comenzado a permitir que determinados agentes de IA (link) utilicen Visa.

Taneja no facilitó detalles sobre cuántos de esos pagos (link) se estaban realizando, pero las estimaciones del sector (link) sugieren que aproximadamente un tercio del comercio en línea —cerca de 3,1 billones de dólares en transacciones— podría gestionarse a través de agentes de IA para 2030.

Según Taneja, los futuros ciberataques serán adaptativos, aprenderán y mejorarán continuamente sin intervención humana directa, lo que otorgará a los atacantes un «superpoder».

«Las defensas humanas, que son en cierto modo el modelo actual, no funcionarán», afirmó Taneja. «Si el adversario actúa como un agente, entonces la defensa también tiene que actuar como un agente. De lo contrario, habrá un desequilibrio».

También destacó el reto a largo plazo que plantea la computación cuántica, señalando que el algoritmo de Shor (link) podría permitir algún día que potentes ordenadores cuánticos descifren los estándares de cifrado actuales que sustentan el comercio mundial.

Afirmó que, por lo tanto, las empresas tendrían que seguir buscando formas de neutralizar ese riesgo.

«Tenemos que ser optimistas», dijo Taneja. «Pero no hay una respuesta fácil».

(En beneficio de las personas cuya lengua materna no es el inglés, Reuters automatiza la traducción de algunos artículos a otros idiomas. Dado que la traducción automática puede cometer errores o no incluir el contexto necesario, Reuters no se hace responsable de la exactitud del texto traducido automáticamente, sino que proporciona estas traducciones únicamente para conveniencia de sus lectores. Reuters no se hace responsable de los daños o pérdidas —del tipo que sean— causados por el uso de la función de traducción automática.)