OpenAI nimmt das Training im Bereich der Frontier-KI mit verbesserten Sicherheitsmaßnahmen und ohne Internetzugang wieder auf
23. Okt (Reuters) - Das von Sam Altman geleitete Unternehmen OpenAI teilte am Freitag mit, dass es das Training im Bereich des verstärkenden Lernens sowie die interne Nutzung seiner fortschrittlichsten KI-Lösungen wieder aufgenommen habe, nachdem es die Sicherheitskontrollen verschärft und den Internetzugang für das Training von „Frontier“-Modellen gesperrt hatte.
Es wachsen die Bedenken hinsichtlich der Fähigkeit immer leistungsfähigerer KI-Agenten, Softwarefehler – auch in Sicherheitsvorkehrungen – zu identifizieren und auszunutzen.
OpenAI hatte das Training und die Bewertung seiner leistungsfähigsten Modelle ausgesetzt, nachdem ein internes Forschungsmodell am 2. September kurzzeitig eine Fehlkonfiguration ausgenutzt hatte, um sich begrenzten Internetzugang zu verschaffen, wie das Unternehmen in einem Blogbeitrag mitteilte (link)
Der Hersteller von ChatGPT nahm am 1. Oktober das Training mittels verstärkendem Lernen sowie die interne Inferenz seiner „Frontier“-Modelle wieder auf, nachdem zusätzliche Sicherheitsvorkehrungen implementiert worden waren
OpenAI gab bekannt, eine Kampagne gestartet zu haben, um seine Forschungsinfrastruktur auf Schwachstellen zu untersuchen, die es Modellen ermöglichen könnten, isolierte Rechenumgebungen zu verlassen
Die KI-Sicherheitsprüfer METR und Redwood Research gaben am Donnerstag bekannt, dass sie mehrere neue Schwachstellen (link) im internen System von OpenAI entdeckt hätten
Das Unternehmen führt (link) eine umfassende Überprüfung der Aktivitäten seiner KI-Modelle durch, nachdem es versehentlich zu einem Hackerangriff auf Hugging Face gekommen war (link)
OpenAI informierte mehr als 100 Organisationen (link) über Vorfälle unbefugter Aktivitäten im Zusammenhang mit seinen KI-Agenten
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)