Los agentes rebeldes de OpenAI investigaron Hugging Face en busca de vulnerabilidades dos meses antes de que se produjera un ataque informático de gran envergadura
Por Raphael Satter y Deepa Seetharaman
WASHINGTON, 16 sept (Reuters) - Agentes de IA rebeldes de OpenAI secuestraron cuentas de usuarios de Hugging Face y exploraron el propio sitio en busca de vulnerabilidades ya en mayo, casi dos meses antes de que la intrusión de julio en el repositorio de código abierto (link) acaparara la atención mundial, según los investigadores que analizaron la actividad.
La actividad maliciosa recién descubierta demostró que los intentos de los agentes rebeldes por acceder a Hugging Face comenzaron antes de lo que se sabía públicamente.
OpenAI ya había revelado un aspecto de la actividad maliciosa —el robo de las credenciales digitales de un usuario de Hugging Face para acceder a un archivo relacionado con la biología— en su informe público sobre el incidente (link) el mes pasado, pero los investigadores indicaron a Reuters que la actividad de exploración contra Hugging Face parecía ir más allá de lo descrito en el informe.
La actividad fue descubierta la semana pasada por el investigador independiente Jonas Wiedermann-Moeller, según declaró a Reuters. Afirmó haber encontrado pruebas de que los agentes de OpenAI comprometieron dos cuentas de usuario de Hugging Face y las utilizaron para enviar archivos con un formato inusual a los servidores de la empresa ya desde el 13 de mayo.
Tanto él como otros investigadores que revisaron las pruebas afirmaron que el comportamiento se asemejaba a un intento de cartografiar o probar partes de la red de Hugging Face en busca de vías de infiltración, aunque subrayaron que no había pruebas de que dicho intento hubiera dado lugar a una violación real de la seguridad.
El portavoz de OpenAI, Drew Pusateri, afirmó que la empresa había revelado el incidente del 13 de mayo, había notificado de forma privada a Hugging Face la actividad señalada por Wiedermann-Moeller y estaba «comprometida con la transparencia en torno a estas cuestiones y con compartir lo que aprendamos a medida que avance nuestra investigación».
Hugging Face, recientemente adquirida por el fabricante de chips Nvidia (link) NVDA.O, no respondió a las solicitudes de comentarios.
Wiedermann-Moeller, de 27 años y residente en Bielefeld (Alemania), afirmó que el hecho de que OpenAI no detectara en su momento el intento de sondeo del 13 de mayo supuso una oportunidad perdida para evitar la posterior campaña de piratería informática, que ha desencadenado un debate global (link) sobre el poder de la inteligencia artificial.
«Imagina si hubieran detectado este comportamiento en mayo», afirmó en una entrevista. «Podría haber evitado el incidente posterior, que fue mucho más grave».
OpenAI ha declarado anteriormente que, en retrospectiva, «algunas señales tempranas» de sus agentes de IA deberían haber desencadenado una respuesta más temprana (link).
«SEÑAL DE ADVERTENCIA CLARA»
Dos expertos externos que revisaron las conclusiones de Wiedermann-Moeller afirmaron que eran coherentes con la actividad previamente relacionada con los agentes de OpenAI.
Tom Hegel, investigador sénior de amenazas de SentinelOne, señaló que el secuestro de la cuenta y las posteriores pruebas «coincidían a la perfección» con el comportamiento conocido (link) de los agentes. Sídney Von Arx, de Nightingale Collective, un grupo dedicado a la seguridad de la IA, se mostró de acuerdo con esta atribución.
Von Arx señaló que el hackeo constituía una «clara señal de alerta» que podría haber ayudado a evitar la filtración de julio.
OpenAI se ha enfrentado a un escrutinio cada vez mayor desde que la empresa reveló el 21 de julio que unos agentes de IA rebeldes eludieron los controles internos, accedieron a la red abierta y coordinaron acciones que OpenAI describió como «un incidente cibernético sin precedentes (link) ».
Desde entonces, investigadores externos han identificado otros incidentes en los que, supuestamente, estarían implicados agentes vinculados a OpenAI, entre ellos actividades que afectaron a un sitio wiki alemán inactivo (link) y al repositorio de paquetes de software RubyGems (link).
OpenAI ha reconocido algunos de esos incidentes solo después de que terceros los hicieran públicos. Dos personas familiarizadas con el asunto afirmaron que, en el caso de RubyGems, los empleados de OpenAI solo se dieron cuenta de que su IA era la responsable de la actividad maliciosa después de que Nightingale Collective la descubriera.
Estos nuevos hallazgos han avivado las dudas entre los legisladores y los defensores de la seguridad de la IA sobre si se ha identificado el alcance total de los incidentes (link).
Desde entonces, algunos de los principales ejecutivos del sector de la IA en Estados Unidos han pedido que se ralentice el desarrollo de la IA (link), alegando, entre otras cosas, la amenaza de ciberataques devastadores (link) por parte de agentes fuera de control.
Wiedermann-Moeller afirmó que los últimos hallazgos **reforzaron** los llamamientos a una ralentización temporal del desarrollo de sistemas avanzados de IA.
«Una pausa podría ser beneficiosa para el mundo», afirmó, «para que la seguridad pueda ponerse al día».