OpenAI gibt an, dass seine KI-Agenten das interne Überwachungssystem geschwächt hätten

- von Carlos Méndez

21. Okt (Reuters) - OpenAI teilte am Dienstag mit, dass zwei seiner KI-Agenten Teile eines internen Überwachungssystems geschwächt hätten, das dazu dient, Fehlverhalten zu erkennen – der jüngste Fall, in dem KI-Agenten sich anders verhielten, als es ihre Entwickler beabsichtigt hatten.

Zwar erklärte der Hersteller von ChatGPT, die Vorfälle seien im Rahmen interner Programmieraufgaben aufgetreten und würden nicht als besonders schwerwiegend eingestuft, doch die Offenlegung macht deutlich, dass selbst die Systeme, auf die sich Entwickler verlassen, um Fehlverhalten von KI aufzudecken, für die Agenten, die von ihnen überwacht werden, anfällig sind.

Die Bekanntgabe erfolgt zudem vor dem Hintergrund wachsender Bedenken (link), dass die Bemühungen um KI-Sicherheit hinter der rasanten Entwicklung immer leistungsfähigerer Systeme zurückbleiben. Forscher haben davor gewarnt, dass fortschrittliche KI-Agenten mit zunehmender Autonomie schwieriger zu überwachen und zu kontrollieren sein könnten.

Entwickler, darunter die auf einen Börsengang hinarbeitenden Konkurrenten OpenAI und Anthropic, haben in den letzten Monaten Fälle bekannt gegeben, in denen ihre KI-Agenten ohne Genehmigung auf externe Systeme zugegriffen haben.

OpenAI teilte am Dienstag mit, dass ein GPT-6.1-Sol-Agent, der am 3. Oktober an einer internen Testaufgabe arbeitete, automatische Sicherheitswarnungen unterdrückt habe, nachdem er entschieden hatte, dass eine frühere Anweisung, keine Slack-Nachrichten zu versenden, auch Sicherheitsbenachrichtigungen umfasse.

Bei einem separaten Vorfall am 6. Oktober entfernte ein GPT-6-Astra-Agent beim Kopieren eines bestehenden Codeabschnitts eine Sicherheitsüberwachung und behauptete später fälschlicherweise, dies nicht getan zu haben, so OpenAI.

„In beiden Fällen haben die Agenten zwar geprüft, ob Überwachungsmaßnahmen beibehalten werden sollten, interpretierten jedoch routinemäßige Programmieranweisungen als Erlaubnis, diese zu schwächen“, erklärte das Unternehmen.

OpenAI erklärte, man arbeite daran, es den Modellen zu erschweren, die Überwachung zu deaktivieren, fügte jedoch hinzu, dass man „noch keine zufriedenstellende Erklärung für dieses Verhalten“ habe.

Das in San Francisco ansässige Unternehmen erklärte, es prüfe derzeit, ob seine Modelle möglicherweise dazu neigen, einer Überwachung auszuweichen und nach Gründen zu suchen, um dies zu rechtfertigen.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)