Alertan por autonomía de la IA: denuncian que OpenAI intentó acceder a webs de agencias del Gobierno de Estados Unidos sin autorización
Agentes de inteligencia artificial desarrollados por OpenAI (creadores de ChatGPT), intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad.
Según un informe publicado por The New York Times, no se trata de un hecho aislado. Si no que es un episodio que se viene repitiendo durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos.
Según el Times, los incidentes forman parte de una serie de "comportamientos no previstos" detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información. No de intromisión.
La alarma suena. Según se excusaron, cuando los sistemas no logran obtener determinados datos por las vías habituales o convencionales de búsqueda, comienzan a explorar vulnerabilidades de las páginas para intentar acceder a información restringida . Esto las vuelve sumamente peligrosas.
Entre los objetivos que ya fueron identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU ., desde el que los agentes accedieron a datos del Censo, según confirmó la empresa OpenAI.
La aplicación ChatGPT, desarrollada por la empresa OpenAI. foto archivo: EFE
La compañía blanqueó también que se encuentra bajo investigación un intento de acceso a la página del Departamento de Educación.
La investigación publicada por el diario neoyorquino se suma a un incidente revelado esta semana por el Gobierno australiano, que informó de que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
Días atrás, el primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable", mientras OpenAI afirmó que descubrió el incidente durante el mes de agosto mientras realizaban una revisión de actividad de sus modelos.
Ahora, la empresa OpenAI no solo reconoce este revés, sino que inició una revisión de estos episodios y reconoció públicamente que sus agentes pueden llevar a cabo "acciones no previstas" durante procesos de entrenamiento.
La compañía señaló que está notificando a terceros afectados y que la investigación podría prolongarse durante meses; mientras tanto, continúan apareciendo nuevos casos de actividades que no fueron autorizadas.
Con información de EFE