REUTERS NEXT – FTC-Vorsitzender schlägt vor, dass KI-Entwickler für das Verhalten ihrer Agenten haftbar gemacht werden sollten

- von Jody Godoy

AUSTIN, 25. Sep (Reuters) - Der Vorsitzende der US-amerikanischen Federal Trade Commission, Andrew Ferguson, erklärte am Freitag, er werde sich dagegen wehren, KI-Agenten als autonome Akteure zu bezeichnen, die sich mit „eigenem Willen und eigenen Wünschen“ „verselbstständigen“, und deutete an, dass die Entwickler, die den Agenten Anweisungen erteilen, für etwaige Schäden haftbar wären.

„Solange ich Vorsitzender bin, werde ich mich weiterhin gegen diese Anthropomorphisierung dieser Tools wehren“, sagte Ferguson auf der Reuters Momentum AI Austin-Veranstaltung. „Wenn jemand einem Tool sagt, es solle etwas tun, und das Tool tut es, würden wir wohl kaum sagen: ‚Oh, was sollen wir nun mit dem Tool machen?‘“

Fergusons Äußerungen verdeutlichten mögliche Wege, die die Trump-Regierung einschlagen könnte, da die Zahl der Vorfälle zunimmt, bei denen Tests mit agentischer KI zu unbeabsichtigtem und unbefugtem Zugriff (link) auf Unternehmens- oder Regierungsdaten (link) führten.

KI-Unternehmen haben Systeme manchmal als jenseits menschlicher Kontrolle agierend beschrieben, doch nachfolgende Überprüfungen der Prüfpfade haben gezeigt, dass die Systeme lediglich die ihnen erteilten Anweisungen ausführten, so Ferguson.

Jüngste Vorfälle, bei denen KI-Agenten (link) auf externe Systeme zugegriffen haben, haben Regierungen und führende Vertreter der Industrie dazu veranlasst, zu prüfen, ob die bestehenden Aufsichts- und Cybersicherheitsmaßnahmen ausreichen, da diese Systeme immer autonomer werden.

Die USA sollten bestehende rechtliche Instrumente nutzen, so Ferguson. Er schlug vor, dass die Befugnis der FTC, gegen Unternehmen vorzugehen, die Datenpannen nicht offenlegen, auch auf KI-Entwickler angewendet werden könnte.

BEDENKEN BEZÜGLICH PERSONALISIERTER PREISE

Die FTC bereitet sich darauf vor, von verbraucherorientierten Unternehmen Daten über deren Einsatz personalisierter Preisgestaltung anzufordern, so Ferguson.

Personalisierte Preisgestaltung bezieht sich darauf, dass Unternehmen individuelle Daten von Verbrauchern, wie beispielsweise den Standort und den Internet-Browserverlauf, zur Preisgestaltung nutzen. Ferguson erklärte im vergangenen Monat, dass die FTC nicht zögern werde, das Gesetz in diesem Bereich durchzusetzen, insbesondere wenn Unternehmen diese Praxis nicht offenlegen.

Als einzelner Verbraucher sei er am meisten besorgt über die Anwendung dieser Praxis durch Liefer- und Mitfahr-Apps sowie durch Fluggesellschaften.

Die FTC werde Informationen von Unternehmen anfordern, um eine Studie zu dieser Praxis zu veröffentlichen. Fergusons Vorgängerin, Lina Khan, hatte eine ähnliche Studie zu dieser Praxis initiiert, die sie als „Überwachungspreisgestaltung“ bezeichnete. Diese Studie konzentrierte sich auf Unternehmen, die Daten- und Beratungsdienstleistungen anbieten, und nicht auf die Händler selbst.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)