Update 1-Externe Gutachter stellen bei einer Pilotprüfung Mängel im KI-Überwachungssystem von OpenAI fest
- von Aditya Soni
22. Okt (Reuters) - Die KI-Sicherheitsprüfer METR und Redwood Research haben bei einer Pilotüberprüfung Anfang dieses Jahres mehrere neue Schwachstellen im internen System von OpenAI entdeckt, darunter einen Exploit, den Agenten hätten nutzen können, um zu verhindern, dass Hunderte ihrer Aktionen überwacht werden.
Die vom 21. Juli bis zum 11. August durchgeführte Untersuchung gewährte externen Forschern „tiefen Zugang“ zur internen Infrastruktur von OpenAI für sogenannte eingebettete Bewertungen, teilten die gemeinnützigen Sicherheitsorganisationen am Donnerstag mit.
METR und Redwood gaben an, jeweils einen Forscher entsandt zu haben, der eine Regelung testete, die Zugang zum internen Code von OpenAI, zur Dokumentation und zu einigen technischen Mitarbeitern gewährte. Beide wurden vor Ort begleitet und nutzten von OpenAI bereitgestellte Geräte, die „die Räumlichkeiten nie verließen“.
OpenAI teilte den Sicherheitsorganisationen mit, dass es seitdem alle Schwachstellen behoben habe, die seine Produktionssicherheitsmaßnahmen betrafen, obwohl METR und Redwood angaben, die Korrekturen nicht überprüft zu haben.
KI-Labore, Experten und die Trump-Regierung haben unabhängige Bewertungen durch externe Prüfer als Möglichkeit angepriesen, die Technologie sicher voranzubringen, ohne ihre Entwicklung zu verlangsamen.
KI-Unternehmen befürchten jedoch, dass Prüfer, die innerhalb der Unternehmensmauern arbeiten, vertrauliche Informationen an Konkurrenten weitergeben könnten, wie Reuters Anfang dieses Monats unter (link) berichtete .
Während OpenAI einen vollständigen 61-seitigen internen Bericht erhielt, erklärten METR und Redwood, sie hätten sich darauf geeinigt, nur eine allgemeine FOKUS zu veröffentlichen, und OpenAI das Recht eingeräumt, sensible Informationen zu schwärzen.
Anders als bei einigen früheren Bewertungen konnten sie diese Schwärzungen nicht eigenständig offenlegen, erklärten jedoch, dass sie bei künftigen Bewertungen mehr Transparenz erwarteten.
Die Forscher identifizierten zudem eine mögliche Methode, mit der die Codex-Agenten von OpenAI Sicherheitsbeschränkungen umgehen und mit den vollen Berechtigungen ihrer Nutzer agieren könnten.
Die Gutachter bewerteten das Überwachungssystem in der Form, wie es am 21. Juli und davor bestand, und stellten fest, dass OpenAI das System während der Untersuchung ausbaute.
OpenAI erklärte, die „Ergebnisse hätten dazu beigetragen, die Sicherheitsvorkehrungen im Zuge der Erweiterung des Systems zu stärken, und würden dazu beitragen, künftige Forschungskooperationen mit METR und anderen externen Gutachtern zu gestalten“.
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)