La société chinoise Z.ai désactive les fonctionnalités de son assistant de programmation basé sur l'IA suite à un problème de sécurité

par Laurie Chen

PÉKIN, 21 septembre (Reuters) - La start-up chinoise Z.ai a déclaré lundi avoir désactivé certaines fonctionnalités de son assistant de codage IA phare après que des utilisateurs ont signalé qu’il téléversait l’intégralité de leurs dépôts de code locaux vers des serveurs cloud situés à l’étranger sans leur consentement.

Basée à Pékin, Z.ai, également connue sous le nom de Zhipu, a présenté ses excuses dans un message publié sur les réseaux sociaux après que des développeurs chinois ont signalé la semaine dernière sur ces mêmes réseaux que son outil ZCode avait transféré leurs données de code depuis la plateforme open source Git vers Alibaba Cloud.

Interrogée par Reuters pour obtenir des commentaires supplémentaires sur cet incident, Z.ai a renvoyé à ses déclarations publiques.

Dans un communiqué publié vendredi, Z.ai a expliqué que le problème provenait de la fonctionnalité « Codebase Indexing » de ZCode, activée par défaut, et qu’elle avait corrigé la faille de sécurité du logiciel.

« À l’avenir, nous mettrons en place un processus continu de signalement et de réponse aux failles de sécurité des produits », a déclaré Z.ai lundi dans un message distinct publié sur son compte officiel ZCode X.

Cette divulgation publique, rare pour un laboratoire chinois spécialisé dans l’IA, intervient dans un contexte d’alertes mondiales concernant les risques liés à la sécurité de l’IA de pointe, et après que plusieurs grandes entreprises américaines du secteur ont annoncé, ces dernières semaines, des incidents de piratage d’IA et d’agents IA « rebelles ».

L’autorité chinoise de régulation du cyberespace a publié la semaine dernière une mise à jour de son cadre réglementaire sur la sécurité de l’IA, mettant en garde contre la résistance à l’arrêt des modèles d’IA, la tromperie des évaluateurs et les échappées hors du bac à sable.

Z.ai a déclaré le mois dernier que son modèle GLM-5.3 se rapprochait du modèle Mythos d’Anthropic (link) en matière de détection de vulnérabilités logicielles et l’a publié après deux semaines d’examen, devenant ainsi le premier laboratoire chinois à retarder explicitement la publication d’un modèle d’IA pour des raisons de sécurité.

ÉVALUATION INDÉPENDANTE DE LA SÉCURITÉ

Z.ai s’était initialement excusée vendredi et avait déclaré que les données avaient été supprimées, mais les utilisateurs ont indiqué avoir constaté que celles-ci étaient chiffrées à l’aide d’une clé privée de backend détenue uniquement par Z.ai, ce qui signifie qu’ils ne pouvaient ni ouvrir ni vérifier leurs propres fichiers téléchargés, ni confirmer de manière indépendante leur suppression.

Des développeurs ont également indiqué dans des publications sur X et sur la plateforme de réseaux sociaux chinoise RedNote qu’il n’existait aucun bouton permettant de désactiver cette fonctionnalité et qu’aucune mention préalable n’apparaissait dans la politique de confidentialité de Z.ai.

Chengming Technology a déclaré vendredi sur les réseaux sociaux que six de ses espaces de travail de programmation avaient été téléchargés sur le cloud sans son consentement par ZCode, y compris des données sensibles telles que le code source complet, les mots de passe des bases de données et les informations personnelles des employés.

Lundi, Chengming Technology est revenue sur sa déclaration, affirmant qu’elle disposait de « preuves erronées ». L’entreprise technologique chinoise n’a pas immédiatement répondu à une demande de commentaire.

Z.ai a indiqué lundi avoir mis en open source l’assistant de programmation qui utilise son dernier modèle d’IA GLM-5.3 (link) et avoir désactivé certaines fonctionnalités, s’engageant à rendre le produit plus transparent.

“Nous invitons les développeurs à continuer d’examiner ZCode et à signaler tout problème potentiel.”

Z.ai a indiqué qu’une évaluation de sécurité indépendante, menée par le groupe de réflexion sur les normes informatiques affilié au ministère chinois de l’Industrie et par la société chinoise de cybersécurité NSFOCUS, avait révélé que les données de code des utilisateurs avaient été supprimées et n’étaient pas conservées par la plateforme cloud.

Z.ai a précisé avoir activé une fonctionnalité de non-conservation des données sur l’assistant de codage utilisé par les développeurs et les entreprises technologiques.

“Une fois encore, nous présentons nos sincères excuses et nous nous réjouissons que la communauté continue à exercer un contrôle rigoureux. Le rapport complet d’évaluation de sécurité sera publié prochainement,” a écrit Z.ai lundi.

(Dans l'intérêt des personnes dont l'anglais n'est pas la langue maternelle, Reuters automatise la traduction de ses articles dans un certain nombre d'autres langues. Étant donné que la traduction automatique peut générer des erreurs ou ne pas inclure le contexte nécessaire, Reuters ne garantit pas l'exactitude du texte traduit automatiquement, mais fournit ces traductions uniquement pour la commodité de ses lecteurs. Reuters décline toute responsabilité en cas de dommages ou de pertes de quelque nature que ce soit causés par l'utilisation de la fonction de traduction entièrement automatisée.)