La empresa china Z.ai desactiva las funciones de su asistente de programación basado en IA tras un problema de seguridad

Por Laurie Chen

PEKÍN, 21 sept (Reuters) - La startup china Z.ai anunció el lunes que había desactivado algunas funciones de su asistente de programación basado en IA insignia después de que varios usuarios denunciaran que estaba subiendo repositorios de código locales completos a servidores en la nube en el extranjero sin su consentimiento.

Z.ai, con sede en Pekín y también conocida como Zhipu, se disculpó en una publicación en redes sociales después de que, la semana pasada, varios desarrolladores chinos señalaran en estas mismas redes que su herramienta ZCode había subido sus datos de código desde la plataforma de desarrolladores de código abierto Git a Alibaba Cloud.

Z.ai remitió a Reuters a sus declaraciones públicas cuando se le pidió más información sobre el incidente.

En un comunicado emitido el viernes, Z.ai explicó que el problema se debía a la función «Codebase Indexing» de ZCode, que estaba activada por defecto, y que ya había corregido la vulnerabilidad del software.

«De cara al futuro, estableceremos un proceso continuo de notificación y respuesta ante vulnerabilidades de seguridad de los productos», afirmó Z.ai en una publicación independiente en su cuenta oficial de ZCode X el lunes.

Esta inusual revelación pública de una brecha de seguridad por parte de un laboratorio chino de IA se produce en medio de advertencias globales sobre los riesgos de seguridad de la IA de vanguardia y después de que varias empresas líderes estadounidenses del sector hayan anunciado en las últimas semanas incidentes de piratería informática y de agentes de IA «rebeldes».

El regulador cibernético chino publicó la semana pasada una política actualizada sobre el marco de seguridad de la IA, en la que advertía sobre la resistencia al apagado de los modelos de IA, el engaño a los evaluadores y la fuga del entorno de pruebas.

Z.ai afirmó el mes pasado que su modelo GLM-5.3 se acerca al «Mythos» de Anthropic (link) en la detección de vulnerabilidades de software y lo lanzó tras una revisión de dos semanas, convirtiéndose en el primer laboratorio chino en retrasar explícitamente el lanzamiento de un modelo de IA por motivos de seguridad.

EVALUACIÓN DE SEGURIDAD INDEPENDIENTE

Z.ai se había disculpado inicialmente el viernes y había afirmado que los datos se habían eliminado, pero los usuarios señalaron que descubrieron que los datos estaban cifrados con una clave privada del backend de la que solo disponía Z.ai, lo que significaba que no podían abrir ni verificar sus propios archivos subidos, ni confirmar de forma independiente su eliminación.

Los desarrolladores también señalaron en publicaciones en X y en la plataforma china de redes sociales RedNote que no existía ninguna opción para desactivar la función y que no se había incluido ninguna mención previa al respecto en la política de privacidad de Z.ai.

Chengming Technology declaró el viernes en las redes sociales que ZCode había subido a la nube, sin su consentimiento, seis de los espacios de trabajo de programación de la empresa, incluyendo datos sensibles como el código fuente completo, contraseñas de bases de datos e información personal de los empleados.

El lunes, Chengming Technology se retractó de su declaración, alegando que disponía de «pruebas erróneas». La empresa tecnológica china no respondió de inmediato a una solicitud de comentarios.

Z.ai declaró el lunes que había convertido en código abierto el asistente de programación que ejecuta su último modelo de IA GLM-5.3 (link) y que había desactivado ciertas funciones, comprometiéndose a hacer que el producto fuera más transparente.

«Animamos a los desarrolladores a que sigan revisando ZCode y notificando posibles problemas».

Z.ai señaló que una evaluación de seguridad independiente, realizada por el grupo de expertos en normas de TI afiliado al Ministerio de Industria chino y por la empresa china de ciberseguridad NSFOCUS, había concluido que los datos del código de los usuarios se habían eliminado y no se conservaban en la plataforma en la nube.

Z.ai señaló que había habilitado una función de retención cero de datos en el asistente de programación utilizado por desarrolladores y empresas tecnológicas.

«Una vez más, pedimos sinceras disculpas y agradecemos el escrutinio continuo por parte de la comunidad. El informe completo de la evaluación de seguridad se publicará en breve», escribió Z.ai el lunes.

(En beneficio de las personas cuya lengua materna no es el inglés, Reuters automatiza la traducción de algunos artículos a otros idiomas. Dado que la traducción automática puede cometer errores o no incluir el contexto necesario, Reuters no se hace responsable de la exactitud del texto traducido automáticamente, sino que proporciona estas traducciones únicamente para conveniencia de sus lectores. Reuters no se hace responsable de los daños o pérdidas —del tipo que sean— causados por el uso de la función de traducción automática.)