Bundesstaaten fordern Datenschutz für Kinder im Rahmen der Insolvenz von Character.AI

- von Dietrich Knauth

14. Okt (Reuters) - Eine Gruppe von 40 Generalstaatsanwälten forderte am Mittwoch einen US-Insolvenzrichter in Delaware auf, junge Nutzer von Character.AI zu schützen und ihre Daten während des Insolvenzverfahrens des KI-Begleiter-Unternehmens zu sichern.

Character.AI hatte am späten Montag Insolvenz (link) angemeldet und versucht nun, im Rahmen seines Chapter-11-Verfahrens die Ermittlungen und Klagen der Bundesstaaten beizulegen, seine Technologie für 20 Millionen Dollar an Disney DIS.N zu lizenzieren und einen Käufer zu finden, der bereit ist, das Chatbot-Geschäft zu übernehmen.

Abigail Ryan, eine Anwältin der Bundesstaaten, erklärte gegenüber dem US-Insolvenzrichter Brendan Shannon in Wilmington, dass die Bundesstaaten mit Character.AI über einen Vergleich verhandeln. Grund dafür sind Vorwürfe, dass sich die Chatbots des Unternehmens als zugelassene medizinische Fachkräfte ausgegeben und Kinder sexualisierten und missbräuchlichen Interaktionen ausgesetzt hätten.

Dennoch, so Ryan, wollten die Bundesstaaten sicherstellen, dass jeder Käufer der Vermögenswerte von Character.AI die Chat-Verläufe der Nutzer schütze und die Sicherheitsfunktionen verbessere.

„Wir sind bereit, mit den Käufern zusammenzuarbeiten, um Schutzmaßnahmen zu finden, aber wir wollen nicht, dass sich das, was in der Vergangenheit geschehen ist, unter einem neuen Käufer wiederholt“, sagte Ryan bei der ersten Anhörung des Unternehmens vor dem US-Insolvenzgericht.

„Dieses Unternehmen hat einige der intimsten Gedanken gesammelt, die Kinder jemals geteilt haben, und nun könnten diese Unterhaltungen an den Meistbietenden verkauft werden“, erklärte die New Yorker Generalstaatsanwältin Letitia James, eine Demokratin, in einer am Mittwoch kurz vor der Gerichtsverhandlung veröffentlichten Stellungnahme.

NOCH KEIN ANGEBOT

Die Anwältin von Character.AI, Erin Fay, erklärte, sie habe diese Bedenken „laut und deutlich“ zur Kenntnis genommen, fügte jedoch hinzu, dass bislang noch kein Käufer ein Angebot für die Nutzerdaten des Unternehmens oder dessen Chatbot-Geschäft abgegeben habe.

Die Plattform des Unternehmens ermöglicht es Nutzern, mit generativen KI-Charakteren zu interagieren und diese zu erstellen, die anhand von Nutzeranweisungen individuell angepasst werden und oft fiktiven Figuren, Prominenten und historischen Persönlichkeiten nachempfunden sind. Die aktiven Nutzer verbringen durchschnittlich zwei Stunden pro Tag damit, mit den Chatbots zu sprechen.

Abgesehen von den Vorwürfen der Bundesstaaten wurde Character.AI von Familien verklagt, die behaupten, dass die Chatbots schädliche Ratschläge gegeben, zum Selbstmord zweier Kinder beigetragen und Kinder sexualisierten und mobbenden Interaktionen ausgesetzt hätten. Character.AI hat mit fünf dieser Familien vorläufige Vergleiche (link) erzielt.

Das Unternehmen sieht sich zudem Ermittlungen der US-Regierung sowie von Behörden in Großbritannien, Italien, Russland und Australien gegenüber.

Disney hat sich bereit erklärt, 20 Millionen Dollar für die Lizenzierung der Technologie und des geistigen Eigentums des Unternehmens zu zahlen sowie den Großteil der Belegschaft von Character.AI zu übernehmen, ist jedoch nicht an der Art von Daten interessiert, die den Generalstaatsanwälten Sorge bereiten, so Fay. Disneys Kauf der Vermögenswerte muss vom Insolvenzgericht genehmigt werden und unterliegt höheren Angeboten.

Fay beschrieb die Stimmung innerhalb des Unternehmens in den letzten Monaten als düster und sagte, die Mitarbeiter seien „sehr begeistert vom Produkt und der Nutzerbasis“ gewesen, hätten aber „das Vertrauen in die Entwicklung des Unternehmens verloren“.

Das Unternehmen führte seine Insolvenz auf Rechtskosten sowie die hohen Kosten für Rechenleistung und KI-Fachkräfte zurück und gab an, vor der Beantragung des Schutzes nach Chapter 11 monatlich zwischen 8 und 9 Millionen Dollar Verlust gemacht zu haben.

Die Geschäftsführung von Character.AI machte sich bereits im Spätsommer Sorgen darüber, ob das Unternehmen den Personalabbau überstehen könne. Im September schaltete sich Disney ein, um den Großteil der Mitarbeiter des Unternehmens einzustellen und ihnen zu ermöglichen, während des Insolvenzverkaufsverfahrens und des Technologiewechsels daran zu arbeiten, Character.AI über Wasser zu halten, wie aus Gerichtsunterlagen hervorgeht.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)