Anthropic gibt an, dass neue Sicherheitsmaßnahmen KI-Distillationsangriffe deutlich reduzieren
13. Okt (Reuters) - Anthropic teilte am Montag mit, dass neue Maßnahmen, die verhindern sollen, dass Konkurrenten die Fähigkeiten seiner Claude-KI-Modelle kopieren, die bei sogenannten Destillationsangriffen gewonnenen Daten um etwa 90 Prozent bis 99 Prozent reduziert haben.
Die Modelldestillation hat sich aufgrund des sich verschärfenden Wettbewerbs zwischen den USA und China zu einem zentralen Anliegen führender KI-Unternehmen entwickelt. Firmen wie Anthropic, OpenAI und Google GOOGL.O argumentieren, dass diese Praxis es Konkurrenten ermöglicht, fortschrittliche Funktionen schneller und kostengünstiger nachzubilden.
Anthropic erklärte, dass Sicherheitsvorkehrungen, die den Zugriff auf Claudes Denkprozesse einschränken, die Extraktionsversuche drastisch reduziert hätten, wobei „die Anzahl der von Distillern extrahierten Denk-Token“ nun „10- bis 100-mal geringer ist als zuvor“.
Das Unternehmen mit Hauptsitz in Kalifornien erklärte, es habe die Nutzung von Proxy-Netzwerken erschwert, um Claudes geschützte Schlussfolgerungen wiederholt auszuloten, wodurch Extraktionsversuche blockiert und groß angelegte Destillationsbemühungen behindert würden.
Anthropic erklärte, sein Sicherheitssystem sei „etwa so robust wie jene, die verhindern, dass Claude beim Bau von Biowaffen hilft“ und weise „eine Falsch-Positiv-Rate von weniger als 0,1 %“ auf.
Anthropic sperrte Zehntausende von Konten, die mit „Distillation“-Kampagnen in Verbindung standen, und führte das chinesische KI-Startup Z.ai 2513.HK – auch bekannt als Zhipu – als Beispiel für ein Unternehmen an, das während der Entwicklung seines GLM-5.3-Modells versucht habe, Fähigkeiten aus Claude zu extrahieren, und warnte, dass solche Praktiken Risiken für die Sicherheit und die nationale Sicherheit darstellten.
Z.AI reagierte nicht sofort auf eine Anfrage nach einer Stellungnahme.
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)