Anthropic unterbreitet den Gesetzgebern still und leise einen eigenen Gesetzentwurf zur KI-Sicherheit, berichtet Politico
16. Okt (Reuters) - Vertreter von Anthropic haben Abgeordneten im Kapitol still und leise einen Gesetzentwurf zur Regulierung der Sicherheit und des Schutzes im Bereich der „Frontier-KI“ vorgestellt, berichtete Politico am Freitag unter Berufung auf drei Personen, die über die Bemühungen informiert sind.
Dem Bericht zufolge würde der Gesetzentwurf es der Regierung ermöglichen, die Veröffentlichung oder Nutzung eines Modells nur dann zu blockieren, wenn davon ein vorhersehbares, unmittelbar drohendes Risiko ausgeht, dass Schäden in Höhe von mehr als 1 Milliarde US-Dollar entstehen oder mehr als 50 Menschen getötet oder schwer verletzt werden.
Hier sind einige Details:
Das Risiko muss sich aus der Herstellung oder Freigabe einer biologischen Waffe, der Umgehung der Kontrollen durch den Entwickler des Modells oder einem Cyberangriff ergeben, berichtete Politico
Anthropic und das Handelsministerium reagierten nicht sofort auf Anfragen von Reuters nach einer Stellungnahme
Dem Bericht zufolge sollen gemäß dem Gesetzentwurf unabhängige Gutachter, die sich beim Handelsministerium registrieren lassen, damit beauftragt werden, das Labor und seine „Frontier“-Modelle regelmäßig zu bewerten
Die Labore könnten diese Gutachter bezahlen, sofern die Bezahlung nicht an das Ergebnis der Bewertung geknüpft ist, hieß es in dem Bericht
Sollten die Gutachter feststellen, dass für die „Frontier-Modelle“ eines Unternehmens ein „unmittelbares, konkret benanntes Risiko“ besteht, müssen sie dies dem Handelsministerium innerhalb von 72 Stunden nach Abschluss ihrer Bewertung melden, berichtete Politico
Zwar könnte das Handelsministerium nach Feststellung eines Risikos bei einem Richter die Aussetzung eines Modells beantragen, doch verbietet der Gesetzestext laut dem Bericht ausdrücklich, dass andere US-Regierungsministerien, -Behörden oder -Beamte die Entwicklung, den Einsatz oder die interne Nutzung aussetzen
Ein Bundesrichter am Bezirksgericht für den District of Columbia könnte die Aussetzung eines Modells anordnen, heißt es in dem Bericht
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)