Anthropic teilt dem Gouverneur von Kalifornien mit, dass Gerichte in der Lage sein sollten, riskante KI-Modelle zu blockieren

- von Courtney Rozen

WASHINGTON, 28. Okt (Reuters) - Anthropic teilte dem kalifornischen Gouverneur Gavin Newsom mit, dass Regierungsbeamte die Möglichkeit haben sollten, gerichtliche Verfügungen zu erwirken, um die Veröffentlichung von KI-Modellen zu verhindern, die ein „ernsthaftes Risiko“ für die Öffentlichkeit darstellen. Dies geht aus einem Schreiben vom 15. Oktober hervor, das die früheren politischen Vorschläge des Unternehmens widerspiegelt.

Anthropic selbst war bereits mit behördlichen Einschränkungen für seine KI-Systeme konfrontiert. Die Trump-Regierung hatte Anthropic im Juni unter Berufung auf nationale Sicherheitsbedenken angewiesen, den Zugriff von Personen aus dem Ausland auf seine cyberfähigen Modelle „Mythos 5“ und „Fable 5“ unverzüglich einzuschränken (link). Das US-Handelsministerium hob die Anordnung später wieder auf.

„Wenn bei einer Überprüfung festgestellt wird, dass ein Modell ein ernsthaftes Risiko darstellt, sollte die Regierung die Möglichkeit haben, bei einem Gericht dessen Sperrung zu beantragen“, hieß es in dem Schreiben an Newsom.

Ein Sprecher von Anthropic bestätigte die Echtheit des Schreibens. Das Büro des kalifornischen Gouverneurs reagierte nicht sofort auf eine Bitte um Stellungnahme.

Anthropic reichte die Empfehlungen ein, nachdem der Gouverneur im September ein Gremium aus Experten für künstliche Intelligenz einberufen hatte, um Vorschläge für Sicherheitsanforderungen im Bereich KI zu erarbeiten.

Das Unternehmen erklärte zudem, es lehne Anforderungen ab, wonach Entwickler „Kill-Switches“ einbauen müssten, mit denen ganze KI-Modelle abgeschaltet werden können, falls ein Unternehmen die Kontrolle über deren Handlungen verliert. Stattdessen befürwortet Anthropic laut dem Schreiben gezieltere Eingriffe, wie beispielsweise die Deaktivierung eines problematischen KI-Agenten oder die Sperrung des Zugangs eines bestimmten Kunden zu einem Modell, da diese Maßnahmen effektiver seien.

Eine parteiübergreifende Gruppe von US-Senatoren debattierte im September über einen Gesetzentwurf, der der US-Regierung die Befugnis geben würde, die Veröffentlichung bestimmter KI-Modelle zu blockieren, die als unsicher gelten, wie Reuters berichtete (link); Unternehmen hätten die Möglichkeit, diese Entscheidung vor einem Bundesgericht anzufechten. Der Kongress ging kurz darauf in die Wahlpause, und die Gesetzgeber haben diesen Vorschlag bislang nicht weiter vorangetrieben.

Abgeordnete des US-Repräsentantenhauses schlugen im Juli den „AI Kill Switch Act“ vor, der US-Behörden die Befugnis geben würde, KI-Unternehmen anzuweisen, Modelle abzuschalten, die Menschenleben oder die Wirtschaft gefährden.

Anthropic bereitet sich (link) auf einen Börsengang in den USA vor. Die Notierung wäre eines der bedeutendsten Börsendebüts seit Jahren und könnte Benchmark-Indizes, Anlegerströme und die allgemeine Entwicklung des US-Aktienmarktes neu gestalten.

Politico berichtete als erstes über die Einzelheiten des Schreibens.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)