Update 1-Die KI-Sicherheitsgruppe METR deckt Mängel im internen Überwachungssystem von OpenAI auf

22. Okt (Reuters) - Die KI-Sicherheitsforschungsgruppe METR teilte am Donnerstag mit, dass bei einer Pilotübung zum Stresstest des internen Überwachungssystems von OpenAI mehrere neue Schwachstellen aufgedeckt wurden , darunter ein Exploit, den KI-Agenten hätten nutzen können, um zu verhindern, dass Hunderte ihrer jüngsten Aktionen überwacht werden.

OpenAI hat inzwischen erklärt, dass alle Schwachstellen, die seine Produktionssicherheitsmaßnahmen betreffen, behoben worden seien, doch METR gab an, diese Angaben noch nicht überprüft zu haben.

Die Forscher fanden einen Weg, wie die „Codex“-Codierungsagenten von OpenAI grundsätzlich Sicherheitsbeschränkungen umgehen und alle Aktionen ausführen könnten, die dem Benutzer, der sie ausführt, zur Verfügung stehen, sowie zwei Einstellungen, mit denen die Überwachung neuer Agenten deaktiviert werden könnte.

Nach Schätzungen der Forscher kamen nur etwa 75 Prozent bis 94 Prozent des internen KI-Agenten-Datenverkehrs von OpenAI aus Modellen, die mindestens so leistungsfähig wie GPT-5.5 waren, für eine Überwachung in Frage.

Ziel der Untersuchung war es, abzuschätzen, wie viel der KI-Agentenaktivität von OpenAI überwacht wurde und ob Agenten das System grundsätzlich deaktivieren oder umgehen könnten, so METR.

Es sei als Pilotprojekt konzipiert worden, um externen Forschern tiefgreifenden Zugang zu den internen Systemen eines Unternehmens zu gewähren, fügte die Forschungsgruppe hinzu.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)