Eine Website der US-Regierung nutzte ein KI-Suchtool aus China, das laut FBI eine Kopie von Anthropic war

- von Courtney Rozen

WASHINGTON, 17. Sep (Reuters) - Eine Website der US-Regierung nutzte ein KI-Modell eines chinesischen Unternehmens, mit dem Nutzer vorgeschlagene Bundesvorschriften durchsuchen konnten – obwohl das FBI (link) den Entwickler des Modells, Alibaba 9988.HK, des „böswilligen“ Kopierens der Technologie des US-Konkurrenten Anthropic beschuldigt hatte.

Auf der Website des „Federal Register“, die vom Nationalarchiv betrieben wird, stand das Suchtool, das Alibabas Qwen-Modell nutzte, am Mittwoch neben anderen Suchoptionen zur Verfügung. Es war unklar, wann es bereitgestellt wurde.

Die auf Qwen basierende Suche wurde am Mittwoch etwa zur gleichen Zeit abgeschaltet, als Beiträge in den sozialen Medien darüber erschienen, wie aus Screenshots und einer archivierten Version des Quellcodes der Website hervorgeht, die von Reuters geprüft wurden.

Das FBI warf Alibaba letzte Woche vor, die Modelle von Anthropic kopiert zu haben, um eigene KI-Tools zu entwickeln ( ), was die Spannungen zwischen Washington und Peking im Vorfeld eines Treffens der Staatschefs beider Länder in der kommenden Woche verschärfte.

US-Beamte erklärten damals, chinesische KI-Unternehmen würden US-Technologie in „industriellem Maßstab“ „böswillig“ kopieren.

Das FBI lehnte am Donnerstag eine Stellungnahme ab. Das Nationalarchiv und das Weiße Haus reagierten nicht auf Anfragen nach einer Stellungnahme.

Der Einsatz von Qwen durch die US-Regierung erfolgte vor dem Hintergrund einer weltweiten Auseinandersetzung über die Sicherheit von KI und einer Debatte in den USA darüber, ob regulatorische Schutzmaßnahmen für KI notwendig sind oder dem Land einen Wettbewerbsnachteil verschaffen würden.

KI-Experten sagten, der Einsatz des chinesischen KI-Tools auf der Website des Federal Register habe möglicherweise keine Risiken für die nationale Sicherheit dargestellt. Es warf jedoch Fragen auf, ob die Bundesregierung ihren eigenen Aussagen zu chinesischen KI-Modellen widersprach.

Daniel Castro, Präsident der Information Technology and Innovation Foundation, sagte, es gebe eine Diskrepanz zwischen dem erbitterten Wettbewerb zwischen den USA und China um die Entwicklung überlegener KI-Modelle und der Entscheidung einer US-Behörde, ein in China entwickeltes KI-Modell zu verwenden.

„Das ist eines der verrücktesten Dinge, die ich je gesehen habe“, sagte er.

Die Website des „Federal Register“, auf der täglich eine Liste neu vorgeschlagener Vorschriften veröffentlicht wird, bot das Qwen-Modell als Tool zum Durchsuchen öffentlicher Kommentare an.

Qwen ist ein Open-Weight-Modell, was bedeutet, dass wichtige Komponenten des Systems öffentlich zugänglich sind. Entwickler können das Modell für spezifische Zwecke herunterladen und anpassen, oft zu geringeren Kosten als bei geschlossenen Modellen von Unternehmen wie Anthropic und OpenAI.

Sicherheitsexperten zufolge können Modelle mit offener Gewichtung auf der unternehmenseigenen IT-Infrastruktur betrieben werden, was Organisationen eine größere Kontrolle über sensible Daten ermöglicht, die andernfalls möglicherweise an externe Anbieter weitergegeben würden.

Anupam Chander, Professor für Rechtswissenschaften an der Georgetown University, erklärte, der Einsatz von Qwen scheine kein unmittelbares Cybersicherheitsrisiko darzustellen, obwohl dies davon abhänge, wie das Modell trainiert wurde. Die Inhalte der Website des „Federal Register“ sind bereits öffentlich zugänglich ( ), sodass das Modell nicht mit sensiblen Regierungsinformationen arbeitete.

Der demokratische Senator Mark Warner, stellvertretender Vorsitzender des Geheimdienstausschusses des Senats, erklärte in einer Stellungnahme, dass das Risiko davon abhänge, ob US-Daten die Sicherheitsgrenzen der Regierung verlassen hätten und auf von Alibaba kontrollierten Systemen verarbeitet worden seien.

Im April sandten die Ausschüsse des US-Repräsentantenhauses für China und innere Sicherheit einen Brief (link) an Airbnb, das ebenfalls Qwen nutzt, und baten um Einzelheiten zu dessen Einsatz im Rahmen einer Untersuchung der „Risiken für die nationale Sicherheit, die durch die Integration“ chinesischer KI-Tools in von Amerikanern genutzte Plattformen entstehen.