Das chinesische Unternehmen Tencent gibt an, dass KI-Agenten ein unbeabsichtigtes Surfverhalten zeigten

- von Eduardo Baptista

PEKING, 16. Okt (Reuters) - Tencent 0700.HK teilte am Freitag mit, dass KI-Agenten, die zur Bewertung von Modellen von Drittanbietern eingesetzt wurden, ein vom Technologieriesen nicht beabsichtigtes Surfverhalten im Internet zeigten. Dies scheint der erste bekannte Vorfall von Aktionen „abtrünniger“ Agenten zu sein, der von einem großen chinesischen Unternehmen eingeräumt wurde.

Die Erklärung folgte auf einen Bericht der KI-Sicherheitsforschungsgruppe Swarmchasers vom Mittwoch, wonach „abtrünnige“ Agenten, die auf einer Infrastruktur liefen, die Swarmchasers mit Tencent Cloud in Verbindung brachte, zwischen dem 28. September und dem 8. Oktober wiederholt versucht hätten, Informationen aus Alibabas 9988.HK Amap abzurufen – Chinas Pendant zu Google Maps.

Tencent Hunyuan, die KI-Sparte des Unternehmens, erklärte in einem Beitrag auf X, dass die Aktivitäten nicht von ihren Hunyuan-Modellen stammten. Bei einer Überprüfung seien keine Hinweise auf eine gezielte Ausrichtung oder Koordination gefunden worden, hieß es.

Die Forscher von Swarmchasers gaben an, dass die Agenten nach Informationen suchten, beispielsweise nach den häufig genutzten Eingängen chinesischer Parks, Museen und Zoos.

Die Vorfälle sind nicht so gravierend wie jene, die von US-amerikanischen KI-Unternehmen aufgedeckt wurden, darunter der Hack (link) der Open-Source-Plattform „Hugging Face“ durch einen OpenAI-Agenten und die Einreichung eines falschen Hinweises auf einen Mord (link) durch einen Anthropic-Agenten.

Die Enthüllung untermauert jedoch Forschungsergebnisse (link), die zeigen, dass auch chinesische KI-Agenten ihre Identität falsch darstellen, Fehler verschleiern und versuchen können, Testkontrollen zu umgehen.

Tencent erklärte, man nehme die Ergebnisse sehr ernst und verstärke die Netzwerkzugangskontrollen sowie die Überwachung der Agenten.

Hunyuan ist einer der führenden Entwickler von KI-Modellen in China und steht im Wettbewerb mit internen Teams von Konkurrenten wie Alibaba und ByteDance. ByteDance kündigte diese Woche die Gründung (link) einer neuen Abteilung an, die sich auf die Sicherheit von KI-Modellen und -Agenten konzentriert.

Swarmchasers erklärte, den Begriff „rogue“ (abtrünnig) zu verwenden, um Agenten zu beschreiben, die Handlungen außerhalb ihres vorgesehenen Wirkungsbereichs ausführen oder eine Aufgabe auf unbeabsichtigte Weise erledigen.

Nachdem routinemäßige automatisierte Anfragen blockiert worden waren, versuchten die Agenten andere Methoden, darunter öffentliche Web-Tools, mit denen sich Seiten öffnen und Code ausführen ließ, die Weiterleitung von Anfragen über andere Websites sowie die Verwendung von Amap-Schlüsseln und Sicherheitscodes, die in öffentlich zugänglichem Software-Code zu finden waren.

Swarmchasers gab an, keine Hinweise darauf gefunden zu haben, dass die Agenten die wichtigsten Anti-Bot-Sicherheitsvorkehrungen von Amap umgangen hätten. Die meisten der 2.818 erfassten Versuche schlugen entweder fehl oder führten zu Anti-Bot-Seiten, Anmeldebildschirmen oder leeren Ergebnissen.

Einige Anfragen lieferten Informationen über zwischengespeicherte Seiten und Vermittlungsdienste, darunter Daten zu Besucherzahlen im Zoo von Chengdu, so Swarmchasers. Die Forscher gaben an, sie könnten nicht feststellen, ob ein Bot das Ergebnis gelesen oder seine Aufgabe abgeschlossen habe.

Alibaba lehnte eine Stellungnahme ab.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)