Das chinesische Unternehmen Z.ai deaktiviert Funktionen seines KI-Programmierassistenten nach einem Sicherheitsproblem

- von Laurie Chen

PEKING, 21. Sep (Reuters) - Das chinesische Start-up Z.ai teilte am Montag mit, dass es einige Funktionen seines Flaggschiff-KI-Programmierassistenten deaktiviert habe, nachdem einige Nutzer berichtet hatten, dass dieser ganze lokale Code-Repositorys ohne ihre Zustimmung auf Cloud-Server im Ausland hochgeladen habe.

Das in Peking ansässige Unternehmen Z.ai, auch bekannt als Zhipu, entschuldigte sich in einem Social-Media-Beitrag, nachdem chinesische Entwickler letzte Woche in den sozialen Medien geschrieben hatten, dass sein Produkt „ZCode“ ihre Code-Daten von der Open-Source-Entwicklerplattform Git auf Alibaba Cloud hochgeladen habe.

Auf die Bitte um eine weitere Stellungnahme zu dem Vorfall verwies Z.ai Reuters auf seine öffentlichen Erklärungen.

In einer Erklärung vom Freitag teilte Z.ai mit, dass das Problem auf die standardmäßig aktivierte Funktion „Codebase Indexing“ von ZCode zurückzuführen sei und dass man die Sicherheitslücke in der Software behoben habe.

„Künftig werden wir einen kontinuierlichen Prozess zur Meldung und Behebung von Sicherheitslücken in unseren Produkten einrichten“, erklärte Z.ai am Montag in einem separaten Beitrag auf seinem offiziellen ZCode-X-Konto.

Die seltene öffentliche Bekanntgabe einer Sicherheitslücke durch ein chinesisches KI-Labor erfolgt vor dem Hintergrund weltweiter Warnungen vor Sicherheitsrisiken im Bereich der Pionier-KI und nachdem mehrere führende US-amerikanische KI-Unternehmen in den letzten Wochen Vorfälle von KI-Hacking und „abtrünnigen“ KI-Agenten gemeldet hatten.

Chinas Cyber-Aufsichtsbehörde veröffentlichte letzte Woche ein aktualisiertes Rahmenwerk zur KI-Sicherheit und warnte vor der Abschaltbeständigkeit von KI-Modellen, der Täuschung von Bewertern und dem Entweichen aus der Sandbox.

Z.ai teilte im vergangenen Monat mit, dass sein Modell GLM-5.3 bei der Erkennung von Software-Schwachstellen an Anthropic's Mythos (link) heranreiche, und veröffentlichte es nach einer zweiwöchigen Überprüfung – damit war es das erste chinesische Labor, das die Veröffentlichung eines KI-Modells aus Sicherheitsgründen ausdrücklich verzögerte.

UNABHÄNGIGE SICHERHEITSBEWERTUNG

Z.ai hatte sich zunächst am Freitag entschuldigt und erklärt, die Daten seien gelöscht worden; Nutzer gaben jedoch an, festgestellt zu haben, dass die Daten mit einem privaten Backend-Schlüssel verschlüsselt waren, über den nur Z.ai verfügte, was bedeutete, dass sie ihre eigenen hochgeladenen Dateien weder öffnen noch überprüfen noch die Löschung unabhängig bestätigen konnten.

Entwickler schrieben zudem in Beiträgen auf X und der chinesischen Social-Media-Plattform RedNote, dass es keine Option zum Deaktivieren der Funktion gebe und dass dies zuvor in den Datenschutzbestimmungen von Z.ai nicht erwähnt worden sei.

Chengming Technology teilte am Freitag in den sozialen Medien mit, dass sechs der Programmier-Arbeitsbereiche des Unternehmens ohne Zustimmung von ZCode in die Cloud hochgeladen worden seien, darunter sensible Daten wie vollständiger Quellcode, Datenbankpasswörter und persönliche Informationen von Mitarbeitern.

Am Montag zog Chengming Technology seine Erklärung zurück und erklärte, man habe „falsche Beweise“ vorgelegt. Das chinesische Technologieunternehmen reagierte nicht sofort auf eine Anfrage nach einer Stellungnahme.

Z.ai teilte am Montag mit, dass es den Programmierassistenten, der auf dem neuesten GLM-5.3-KI-Modell (link) basiert, als Open-Source-Software veröffentlicht und bestimmte Funktionen deaktiviert habe, und versprach, das Produkt transparenter zu gestalten.

„Wir laden Entwickler ein, ZCode weiterhin zu prüfen und potenzielle Probleme zu melden.“

Z.ai teilte mit, dass eine unabhängige Sicherheitsbewertung durch den dem chinesischen Industrieministerium angegliederten IT-Standards-Thinktank und das chinesische Cybersicherheitsunternehmen NSFOCUS ergeben habe, dass die Code-Daten der Nutzer gelöscht worden seien und nicht von der Cloud-Plattform gespeichert würden.

Z.ai erklärte, man habe im Programmierassistenten, der von Entwicklern und Technologieunternehmen genutzt wird, eine Funktion zur vollständigen Löschung der Daten aktiviert.

„Wir entschuldigen uns erneut aufrichtig und begrüßen die fortgesetzte Überprüfung durch die Community. Der vollständige Bericht zur Sicherheitsbewertung wird in Kürze veröffentlicht“, schrieb Z.ai am Montag.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)