Hinter der Forderung der KI-Branche nach unabhängigen Überprüfungen verbirgt sich ein Streit darüber, was veröffentlicht wird

- von Aditya Soni

NEW YORK, 13. Okt (Reuters) - Anthropic und OpenAI haben laut zwei mit den Gesprächen vertrauten Personen versucht, erheblichen Einfluss darauf zu nehmen, was externe Gutachter veröffentlichen dürfen, da sie befürchten, dass die Ergebnisse Geschäftsgeheimnisse preisgeben könnten.

Anthropic-CEO Dario Amodei erklärte letzten Monat (link), dass externe Gutachter das Recht haben sollten, wichtige Ergebnisse „ohne redaktionelle Kontrolle“ zu veröffentlichen. OpenAI stimmte wenige Tage später zu und erklärte, Gutachter sollten „redaktionelle Unabhängigkeit“ genießen.

Die KI-Unternehmen befürchten, dass Gutachter, die im Rahmen der sogenannten „eingebetteten Bewertung“ innerhalb der Unternehmensgrenzen arbeiten, vertrauliche Informationen an Konkurrenten weitergeben könnten, so die Personen, die anonym bleiben wollten, da es sich um eine vertrauliche Angelegenheit handele.

Zu den diskutierten Maßnahmen zur Verhinderung von Lecks geistigen Eigentums gehören unter anderem, dass Labormitarbeiter die eingebetteten Teams bei ihrer Arbeit beobachten und dass verhindert wird, dass in einem Labor eingebettete Gutachter gleichzeitig in einem anderen Labor arbeiten, fügte eine der Personen hinzu.

Was die Labore jedoch als entscheidendes geistiges Eigentum betrachten, kann sich mit Informationen überschneiden, die für die Beurteilung des Risikos eines Modells relevant sind, was zu Auseinandersetzungen und Schwärzungen führen kann, sagte eine weitere Person, die über Kenntnisse früherer Verhandlungen mit den Laboren verfügt.

Experten haben erklärt, dass die Unabhängigkeit der Gutachter Anlass zur Sorge gibt, da Anthropic und OpenAI entscheiden, wer die Überprüfungen durchführen darf. Reuters berichtet erstmals über Details dieser Verhandlungen zwischen den Gutachtern und den KI-Labors.

Die Diskussionen verdeutlichen das Spannungsfeld zwischen der Notwendigkeit, die Welt auf leistungsstarke und potenziell gefährliche KI aufmerksam zu machen, und den Forderungen nach dem Schutz von Geschäftsgeheimnissen durch KI-Unternehmen, die bei möglicherweise bedeutenden Börsengängen Bewertungen in Höhe von Billionen Dollar anstreben.

Das Ergebnis der Gespräche wird mitbestimmen, wie die Welt eine Technologie unter die Lupe nimmt, von der einige ihrer Entwickler warnen, dass sie sich möglicherweise über die Kontrollmöglichkeiten der Menschheit hinaus entwickelt.

Ohne vereinbarte Standards und gesetzliche Regelungen für unabhängige Überprüfungen könnten laut einigen Experten die Unternehmen, die die leistungsstärksten KI-Modelle entwickeln, diktieren, wie ihre Systeme geprüft werden – wodurch die Prüfer der Gnade der Labore selbst ausgeliefert wären.

VERHANDLUNGEN ÜBER VERÖFFENTLICHUNGSRECHTE

Der Charakter der Diskussionen änderte sich rasch. Die beiden mit der Angelegenheit vertrauten Personen sagten, dass Anthropic und OpenAI noch am 5. Oktober strenge redaktionelle Kontrolle darüber angestrebt hätten, was die Gutachter veröffentlichen dürften. Bis zum 8. Oktober schienen sich die Gespräche zwischen Anthropic und einigen Gutachtern weiterentwickelt zu haben, so eine mit der Angelegenheit vertraute Person.

Auf Anfrage von Reuters erklärte Anthropic, dass das Streben nach erheblicher Kontrolle über die Veröffentlichungen der eingebundenen Gutachter nicht alle Diskussionen und die Zusammenarbeit mit unabhängigen Gutachtern zutreffend charakterisiere.

Das Unternehmen hinter den Claude-KI-Modellen erklärte, dass es in den aktuellen Gesprächen mit Gutachtern, mit denen es zuvor zusammengearbeitet habe, deutlich gemacht habe, dass die externen Gutachter die Kontrolle über ihre Methoden, Bewertungskriterien, Schlussfolgerungen und die zu veröffentlichenden Inhalte hätten.

Bei neuen Gutachterfirmen behalte sich Anthropic das Recht vor, Berichte zu kommentieren und zu genehmigen, während die Gutachter sich mit der Funktionsweise der Modelle vertraut machen und eine Arbeitsbeziehung aufbauen.

OpenAI erklärte seinerseits, dass es keine Genehmigungsrechte über den vollständigen Text der von den Gutachtern erstellten Berichte anstrebe. Es erklärte, dass es zur Standardpraxis gehöre, vertrauliche Informationen zu schwärzen, und dass die Gutachter offenlegen könnten, ob wesentliche Schwärzungen vorgenommen wurden.

Der Hersteller von ChatGPT erklärte im vergangenen Monat, dass KI-Labore und Gutachter sich vor den Tests über den Umfang und den Zugriff einigen, Methoden und Interessenkonflikte offenlegen und den Gutachtern die Kontrolle über ihre Ergebnisse überlassen sollten, während den Labors gleichzeitig die Möglichkeit gegeben werde, sensible Informationen zu schützen.

Die Formulierungen, die KI-Labore bereits in bestimmten Verträgen mit Firmen verwenden, die ihre Modelle bewerten, können diesen Firmen laut einem Reuters vorliegenden Vertrag untersagen, vertrauliche Informationen in ihren Berichten ohne die Zustimmung der Unternehmen zu veröffentlichen.

VERSPRECHEN DER UNABHÄNGIGKEIT

Anthropic teilte im vergangenen Monat mit, dass „Faculty“, die auf KI spezialisierte Sparte von Accenture, sein erster fest eingebundener Gutachter sein werde, erklärte jedoch, dass Details darüber, worauf Gutachter Zugriff haben und wie sie ihre Ergebnisse berichten, noch ausgearbeitet würden.

„Gutachter sind nur dann nützlich, wenn man ihren Berichten vertrauen kann – daher sind Unabhängigkeit und Transparenz entscheidend“, erklärte Marc Warner, CEO von Faculty, gegenüber Reuters.

Technologieunternehmen verbieten den Firmen, mit denen sie zusammenarbeiten, in der Regel, solche Informationen ohne ihre Zustimmung an Dritte weiterzugeben.

Experten zufolge steht bei KI jedoch mehr auf dem Spiel, da diese Technologie nach Angaben ihrer Entwickler erhebliche Auswirkungen auf den Menschen haben wird.

Die Forschungslabore könnten den Zugang kontrollieren, auf den die Gutachter angewiesen sind, solange es keine Standards gibt, und hätten so Einfluss darauf, was berichtet wird, erklärte Rumman Chowdhury, ehemaliger US-Wissenschaftsbeauftragter für KI unter der Biden-Regierung und CEO von Humane Intelligence PBC, gegenüber Reuters.

„Gutachter haben diesen sehr privilegierten Zugang, aber ob explizit oder implizit – sie wissen, dass dies seinen Preis hat“, sagte Chowdhury.

Die unabhängige Bewertung war eine von vier Sicherheitsmaßnahmen im einseitigen „White House Accord on Super Intelligence“, das Ende letzten Monats von Präsident Donald Trump und führenden KI-Führungskräften (link) unterzeichnet wurde. Doch das Abkommen, das Trump als „moralisch bindend“ bezeichnet hat, enthielt keine Angaben dazu, wie diese Überprüfungen durchgeführt werden sollten.

Die Gutachter haben im vergangenen Monat zudem in einem öffentlichen Brief, der von mehr als 200 Forschern unterzeichnet wurde – darunter Geoffrey Hinton, einer der Pioniere der KI –, ihre eigenen Mindestbedingungen veröffentlicht. Der Brief fordert eine unabhängige Kontrolle über die Ergebnisse, einen umfassenden Zugang zu KI-Labors sowie Schutz vor Vergeltungsmaßnahmen.

SCHWÄRZUNGEN UND EINGESCHRÄNKTER ZUGANG

OpenAI hat nicht öffentliche Informationen aus einem Bericht von Model Evaluation and Threat Research (METR) und Redwood Research zum Hugging-Face-Vorfall (link) geschwärzt, bei dem autonome Agenten, die auf den fortschrittlichen Modellen von OpenAI basierten, außer Kontrolle gerieten und einen Hackerangriff auslösten, der die Infrastruktur von Hugging Face kompromittierte.

Die Untersuchung der gemeinnützigen Organisationen für KI-Sicherheit, die ursprünglich für zwei Tage bei OpenAI geplant war, zog sich über drei Besuche und insgesamt sechs Tage hin, wobei ein vollständigerer Satz an Transkripten erst beim letzten Besuch vorlag, nachdem die Forscher Lücken in den Daten aufgezeigt hatten.

METR und Redwood gaben an, sie hätten die Struktur, die Schwerpunkte, die Verständlichkeit und den Ton des Berichts auf der Grundlage des Feedbacks von OpenAI angepasst, jedoch sei nichts, was für ihre Schlussfolgerungen von Bedeutung sei, entfernt worden. Sie hielten an ihren Ergebnissen fest und lobten den Zugang, den OpenAI letztendlich gewährt hatte, erklärten jedoch, dass das Risiko, Entwickler davon abzuhalten, nach schwerwiegenden Vorfällen externe Gutachter hinzuzuziehen, ihre Ermessensentscheidungen beim Verfassen, Bearbeiten und Schwärzen des Berichts geprägt habe.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)