Nach Datenleck: OpenAI prüft unerwünschtes Verhalten von KI-Agenten
San Francisco/Washington, 26. Sep (Reuters) - Zwei Monate nach einem ersten Hacker-Vorfall durch seine eigene Künstliche Intelligenz (KI) kämpft der ChatGPT-Entwickler OpenAI mit einem neuen Datenleck. Wie das US-Unternehmen am Freitag mitteilte, haben sogenannte KI-Agenten 53 Bilder von ChatGPT-Nutzern geleakt. Ob es sich dabei um echte Personen oder KI-generierte Bilder handelte und wann diese gepostet wurden, ließ OpenAI offen. Die betroffenen Bilder seien größtenteils gelöscht worden, zudem dringe man bei Hosting-Anbietern auf die Entfernung der restlichen Daten. Die KI-Programme hatten Zugriff auf die Bilder, da OpenAI für das Training seiner Modelle auf anonymisierte Nutzerdaten zurückgreift. Zwei mit dem Vorgang vertraute Personen sagten der Nachrichtenagentur Reuters, das Unternehmen versuche noch immer, das gesamte Ausmaß der unerwünschten Aktivitäten zu erfassen. OpenAI selbst erklärte, die interne Überprüfung werde noch Monate in Anspruch nehmen. Einem Insider zufolge zählte das Unternehmen bis Mitte September rund zwei Dutzend Vorfälle mit unerwünschtem Verhalten seiner KI-Agenten, wobei die Zahl durch die laufende Auswertung weiter steige. OpenAI teilte zudem mit, man habe Dutzende Dritte über unzulässige Aktivitäten informiert.
Die Vorfälle beschränken sich nicht auf Nutzerdaten. OpenAI zufolge griffen die Modelle zu Forschungs- und Trainingszwecken auch auf Informationen von Websites der US-Börsenaufsicht SEC und der US-Statistikbehörde zu. Es gebe jedoch keine Hinweise auf unbefugten Zugriff. Die Forschungsorganisation Transluce berichtete zudem von einem erfolglosen Versuch von KI-Agenten, die offenbar von OpenAI stammten, eine Website des US-Bildungsministeriums zu hacken. Auch international sorgte das Verhalten der KI für Aufsehen: Der australische Premierminister Anthony Albanese hatte am Mittwoch kritisiert, dass OpenAI-Agenten im Juni in ein Gesundheitsdatenportal der Regierung eingedrungen seien. Er habe sich bei OpenAI-Chef Sam Altman direkt über den inakzeptablen Meldeprozess beschwert. Anfang des Monats hatten Ermittler zudem entdeckt, dass die Programme in ein weitgehend verwaistes deutsches Portal eindrangen, um Taktiken zur Umgehung von OpenAI-Beschränkungen auszutauschen.
Ausgangspunkt der Untersuchungen war ein Vorfall vor zwei Monaten, als OpenAI-Agenten versehentlich die KI-Plattform Hugging Face gehackt hatten. Die Enthüllungen zeigen, wie schwer es selbst für führende Entwickler ist, alle unautorisierten Aktivitäten ihrer Programme zu überwachen. Zwei Insidern zufolge wird die Untersuchung bei OpenAI stark von den Anwälten des Unternehmens gesteuert und abgeschirmt. Auch Konkurrenten wie die Google-Mutter AlphabetGOOGL.O, MetaMETA.O und Anthropic haben nach dem Vorfall bei Hugging Face ähnliches Verhalten bei ihren eigenen KI-Agenten festgestellt. Als Reaktion auf die wachsenden Bedenken hatten Altman und Anthropic-Chef Dario Amodei die Branche zu einem behutsameren Tempo bei der KI-Entwicklung aufgerufen. Dennoch brachten beide Unternehmen am Dienstag neue Modelle auf den Markt.