REUTERS NEXT-FTC-Vorsitzender schlägt vor, dass KI-Entwickler für das Verhalten ihrer Agenten haftbar gemacht werden sollten

- von Jody Godoy

AUSTIN, 25. Sep (Reuters) - Der Vorsitzende der US-amerikanischen Federal Trade Commission (FTC), Andrew Ferguson, erklärte am Freitag, er werde sich dagegen wehren, KI-Agenten als autonome Akteure zu bezeichnen, die sich mit „eigenem Willen und eigenen Wünschen“ „losreißen“, und deutete an, dass die Entwickler, die den Agenten Anweisungen erteilen, für Schäden haftbar wären.

„Solange ich Vorsitzender bin, werde ich mich weiterhin gegen diese Anthropomorphisierung dieser Tools wehren“, sagte Ferguson auf der Reuters Momentum AI-Veranstaltung in Austin. „Wenn jemand einem Tool sagt, es solle etwas tun, und das Tool tut es, würden wir wohl kaum sagen: ‚Oh, was sollen wir nun mit dem Tool machen?‘“

Fergusons Äußerungen verdeutlichten mögliche Vorgehensweisen für die Trump-Regierung angesichts zunehmender Vorfälle, bei denen Tests mit agentischer KI zu unbefugtem Zugriff (link) auf Unternehmens- oder Regierungsdaten (link) führten.

KI-Unternehmen haben Systeme manchmal als jenseits menschlicher Kontrolle agierend beschrieben, doch nachfolgende Überprüfungen der Prüfpfade hätten gezeigt, dass die Systeme lediglich Anweisungen ausführten, die ihnen erteilt worden waren, so Ferguson.

Jüngste Vorfälle, bei denen KI-Agenten (link) auf externe Systeme zugegriffen haben, haben Regierungen und führende Vertreter der Industrie dazu veranlasst, zu prüfen, ob die bestehenden Aufsichts- und Cybersicherheitsmaßnahmen ausreichend sind.

Die USA sollten bestehende rechtliche Instrumente nutzen, so Ferguson. Er schlug vor, dass die Befugnis der FTC, gegen Unternehmen vorzugehen, die Datenverstöße nicht offenlegen, auch auf KI-Entwickler angewendet werden könnte.

BEDENKEN BEZÜGLICH PERSONALISIERTER PREISGESTALTUNG

Die FTC bereitet sich darauf vor, Daten von verbraucherorientierten Unternehmen über deren Einsatz personalisierter Preisgestaltung anzufordern, sagte Ferguson und bezog sich dabei auf Unternehmen, die individuelle Verbraucherdaten wie Standort und Internet-Browserverlauf zur Preisgestaltung nutzen. Diese Praxis ist auf Kritik von Gesetzgebern auf Bundes- und Landesebene gestoßen, denen die Sicherung der Erschwinglichkeit in den USA am Herzen liegt.

Ferguson erklärte im vergangenen Monat, die FTC werde nicht zögern, das Gesetz in diesem Bereich durchzusetzen, insbesondere wenn Unternehmen diese Praxis nicht offenlegen. Die FTC habe bereits Durchsetzungsmaßnahmen bezüglich der Offenlegung personalisierter Preisgestaltung eingeleitet, sagte er.

„Wir sind gerade dabei, eine Marktstudie in Auftrag zu geben, die der Frage wirklich auf den Grund geht: Nutzen bestimmte Händler in bestimmten Märkten, die Zugang zu enormen Datenmengen haben, diese Daten, um unterschiedlichen Personen unterschiedliche Preise in Rechnung zu stellen?“, sagte er.

Als Privatperson sei er am meisten besorgt über die Anwendung dieser Praxis durch Liefer- und Mitfahr-Apps sowie durch Fluggesellschaften.

Fluggesellschaften sahen sich im vergangenen Jahr Kritik ausgesetzt, nachdem eine Führungskraft von Delta Air Lines DAL.N angedeutet hatte, dass KI-Tools eingesetzt würden, um die Zahlungsbereitschaft der Kunden einzuschätzen. Delta hat seitdem erklärt, dass es Preise nicht auf der Grundlage individueller Daten personalisiere, und eine Führungskraft von American Airlines AAL.O sagte, dies würde das Vertrauen der Kunden untergraben.

Anfang dieses Jahres forderte ein Ausschuss des US-Kongresses Informationen (link) von Uber UBER.N, Instacart CART.O und anderen Unternehmen darüber an, ob sie Kundendaten zur Preisgestaltung nutzen. Beide Unternehmen erklärten damals, dass sie keine personenbezogenen Daten zur Preisgestaltung verwenden.

Die FTC würde Informationen von Unternehmen anfordern, um eine Studie zu dieser Praxis zu veröffentlichen. Fergusons Vorgängerin, Lina Khan, hatte eine ähnliche Studie zu dieser Praxis initiiert, die sie als „Überwachungs-Preisgestaltung“ bezeichnete. Diese Studie konzentrierte sich auf Unternehmen, die Daten und Beratungsdienste zur Preisgestaltung anbieten, und nicht auf die Händler selbst.

VORGEHEN GEGEN WERBEBETRUG

Die FTC forderte am Donnerstag die Öffentlichkeit auf, sich zu einer möglichen Regelung zu äußern, die Technologieunternehmen wie Meta Platforms META.O und Alphabet’s GOOGL.O Google davon abhalten soll, betrügerische oder irreführende Anzeigen zuzulassen. Meta rechnete damit, dass 10 Prozent (link) seines Umsatzes im Jahr 2024 aus Anzeigen für Betrugsmaschen und verbotene Waren stammen würden, berichtete Reuters im vergangenen Jahr.

Die FTC führe derzeit Ermittlungen im Zusammenhang mit betrügerischen Anzeigen durch, sagte Ferguson. Diese Ermittlungen hätten ihn davon überzeugt, dass es notwendig sei, Vorschriften für Online-Plattformen festzulegen, um Betrug einzudämmen.

„Wir müssen die Regeln für alle Beteiligten in diesem Markt absolut klar formulieren“, sagte er.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)