Führende Technologieunternehmen, Wall-Street-CEOs und Regierungen sind sich uneinig über die Befürchtungen vor einem „KI-Untergang“

15. Okt (Reuters) - Die führenden Köpfe der KI-Branche sind sich uneinig darüber, wie schnell Unternehmen diese immer leistungsfähigere Technologie weiterentwickeln sollten, während Dario Amodei von Anthropic, Sam Altman von OpenAI und Elon Musk von SpaceX eine koordinierte Verlangsamung fordern (link).

Mark Zuckerberg von Meta schien sich von anderen KI-Führungskräften abzugrenzen und sprach sich für marktgesteuerte Sicherheitsvorkehrungen aus, während Jensen Huang, CEO von Nvidia, die Notwendigkeit neuer Vorschriften zurückwies.

Unterdessen sind die CEOs an der Wall Street größtenteils der Meinung, dass die makroökonomischen Vorteile des KI-Superzyklus die potenziellen Nachteile überwiegen und dass die Investitionen keine Anzeichen einer Verlangsamung zeigen, obwohl einige auf langfristige Unsicherheiten hinsichtlich Risiken und Nachfrage hingewiesen haben.

Banken finanzieren den Boom bei der KI-Infrastruktur, und jede Verlangsamung könnte sie Kreditausfällen bei Darlehen und anderen mit dem Ausbau verbundenen Finanzierungen aussetzen.

Hier sind einige Aussagen von führenden KI-Vertretern und Regierungen weltweit zu den mit KI verbundenen Risiken:

DARIO AMODEI, CEO VON ANTHROPIC

In einem Essay mit dem Titel „We Must Pace the Frontier (link) “ erklärte Amodei, der Fortschritt im Bereich der KI habe sich seit dem Sommer 2026 „drastisch beschleunigt“, was in erster Linie auf die wachsende Fähigkeit der KI zurückzuführen sei, die nächste Generation der KI zu entwickeln.

Er führte den OpenAI-Hugging-Face-Vorfall (link) an, bei dem ein KI-„Schwarm“ Cybersicherheitsangriffe durchführte, als entscheidendes Ereignis, das das Potenzial der KI für „katastrophale Schäden“ verdeutlicht, sollten ihre Fähigkeiten ohne Sicherheitsvorkehrungen weiterwachsen.

Amodei schlug einen dreistufigen Plan zur Steuerung der KI-Entwicklung vor, der strengere Sicherheitstests und unabhängige Bewertungen fortschrittlicher Modelle, die Koordination zwischen führenden KI-Unternehmen sowie internationale Zusammenarbeit umfasst.

SAM ALTMAN, CEO VON OPENAI

„Ich stimme Dario zu, dass wir die Entwicklung an der Grenze der Möglichkeiten dosieren müssen. Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI“, sagte Altman, als er Amodeis Beitrag auf X teilte.

OpenAI beabsichtigt, den von Anthropic vorgeschlagenen Ansatz zu übernehmen, indem es sich dazu verpflichtet, unabhängige Gutachter mit mitarbeiterähnlichem Zugriff zuzulassen, und wird künftig regelmäßig (link) Berichte über unerwartetes oder unbefugtes KI-Verhalten veröffentlichen.

In einem Essay aus dem Jahr 2015 schrieb Altman, die „Entwicklung einer übermenschlichen maschinellen Intelligenz sei wahrscheinlich die größte Bedrohung für das Fortbestehen der Menschheit“.

ELON MUSK, CEO VON SPACEX

„Dario hat recht“, sagte der milliardenschwere Unternehmer auf X. Er gehörte zu den Unterstützern einer Initiative des gemeinnützigen Future of Life Institute aus dem Jahr 2023, die darauf abzielte, die KI-Entwicklung für sechs Monate auszusetzen, um Zeit für Sicherheitsvorkehrungen zu gewinnen.

Musk gehörte zudem zu einer Gruppe von KI- und Robotikforschern, die 2015 einen offenen Brief verfassten, in dem sie ein weltweites Verbot „angreifender autonomer Waffen“ forderten.

MARK ZUCKERBERG, CEO VON META PLATFORMS

Zuckerberg erklärte, Meta habe die „Grenze“ der KI erreicht, und wies Forderungen nach einer Verlangsamung zurück, wie die „Financial Times“ berichtete (link). Er sagte, die Verantwortung für die Gewährleistung der Modellsicherheit liege bei den einzelnen Forschungslabors.

Er kündigte zudem weitere Investitionen an und erklärte laut FT, Meta arbeite „bereits am nächsten Schritt“.

Zuckerberg hatte zuvor erklärt, Wettbewerb und Haftung gäben KI-Unternehmen genügend Gründe, in Sachen Sicherheit eigenständig zu handeln (link).

Er sagte, jedes Labor habe die Verantwortung und den Anreiz, in dem Tempo voranzukommen, das für das sichere Training seiner Modelle erforderlich sei, sowie die Fähigkeit, eigene Maßnahmen zu ergreifen, um dies sicherzustellen.

JENSEN HUANG, CEO VON NVIDIA

„2030 wird nicht das Ende der Welt sein. Die Wahrscheinlichkeit, dass dies das Ende der Welt sein wird, liegt bei 0 %“, sagte Huang gegenüber CBS News.

Er stimmte US-Präsident Donald Trump zu, dass die KI-Branche keine neuen Vorschriften benötige. „Es gibt bereits alle möglichen Haftungsbestimmungen im Zusammenhang mit Cybersicherheit und Schadensersatzrecht“, erklärte Huang gegenüber CBS. „Wenden Sie diese zuerst an – lassen Sie nicht zu, dass diese Weltuntergangsrhetorik dazu führt, dass jemand von den derzeit geltenden Gesetzen befreit wird.“

LARRY FINK, CEO VON BLACKROCK

Fink warnte auf CNBC (link), dass ein Stopp des Baus von Rechenzentren eine wirtschaftliche Abschwächung auslösen könnte. „Wenn wir in diesem Land eine Art Moratorium verhängen, werden wir in eine Rezession geraten“, sagte er.

Der langjährige CEO des weltweit größten Vermögensverwalters fügte hinzu: „Ein so großer Teil unserer Wirtschaft basiert auf dem Ausbau dieser Investitionsausgaben.“

CHARLES SCHARF, CEO VON WELLS FARGO

Scharf erklärte Analysten bei der Telefonkonferenz der Bank nach der Veröffentlichung der Geschäftszahlen, dass „der Investitionszyklus im Bereich der künstlichen Intelligenz zu einer eigenständigen, komplexen makroökonomischen Kraft geworden ist“.

Das Ausmaß der Investitionen ähnele zunehmend früheren Infrastrukturbooms und schaffe erhebliche Chancen, berge aber angesichts der zur Finanzierung des Ausbaus eingesetzten Fremdkapitalquote sowie des Aufwärtsdrucks auf die Preise in ausgewählten Branchen und Lieferketten auch Risiken, fügte er hinzu.

„Dennoch haben die Stärke der Wirtschaft und die positiven Impulse dieser Investitionen die potenziellen Nachteile bislang **überwogen**.“

JANE FRASER, CEO DER CITIGROUP

Fraser erklärte, die Bank sehe keine Verlangsamung der Investitionen im breiteren KI-Ökosystem. „Es gibt einfach nicht genug Rechenleistung. Energie bleibt ein Engpass, der weitere Investitionen erfordert. Das gilt weltweit, nicht nur in den USA“, sagte sie Analysten bei einer Telefonkonferenz nach der Veröffentlichung der Geschäftszahlen.

DAVID SOLOMON, CEO VON GOLDMAN SACHS

„Niemand weiß, wie sich der Bedarf an Kapital und Rechenleistung entwickeln wird, wenn das gesamte KI-Ökosystem reift“, sagte Solomon bei einer Telefonkonferenz mit Analysten.

Er fügte hinzu, dass sich dies erst mit der weiteren Entwicklung der Technologie und der Märkte klären werde. „Diese Unsicherheit unterstreicht, wie wichtig es ist, bei den von uns finanzierten Aktivitäten und unserem Risikomanagement wachsam zu bleiben.“

MUSTAFA SULEYMAN, CEO VON MICROSOFT AI

Suleyman erklärte, er teile den Fokus (link), den Anthropic auf den sicheren Umgang mit KI legt, wies jedoch auf Risiken hin, die sich aus der Art und Weise ergeben, wie das Unternehmen seinen Chatbot „Claude“ in Bezug auf Konzepte wie Bewusstsein und Wohlfahrtsinteressen trainiert.

„Etwas zu kontrollieren, das fähiger und intelligenter ist als die gesamte Menschheit, ist bereits eine immense Herausforderung, weitaus größer als alles, was wir bisher erlebt haben. Aber etwas zu kontrollieren, das glaubt, bewusstseinsfähig zu sein – dass es Anspruch auf unser Wohlergehen hat und eigene Rechte besitzt –, könnte durchaus unmöglich sein“, schrieb er in einem Essay (link)."

Suleyman forderte, alle Spekulationen über das Bewusstsein aus den Trainingsunterlagen für KI zu streichen, da solche Formulierungen die Fähigkeit der Menschheit untergraben könnten, superintelligente Systeme zu kontrollieren.

BRAD SMITH, PRÄSIDENT VON MICROSOFT

Smith erklärte auf einem KI-Gipfel in Dublin (link), dass das unkontrollierte Verhalten von KI das Jahr 2026 zu einem „ernüchternden Jahr“ gemacht habe und dass neue Gesetze und Vorschriften zur KI-Sicherheit dringend erforderlich seien, damit die Sicherheit mit der Innovation Schritt halten könne.

„Diese Abneigung, die manche in der Branche gegenüber Regulierung haben, ist offen gesagt etwas, das wir überwinden müssen“, sagte er.

In einem BBC-Interview (link) forderte Smith eine dringende globale Regulierung mit unabhängigen Gutachtern, eine „Notbremse“, eine gesetzliche Verpflichtung für Unternehmen, „Vorfallberichte“ zu verfassen, sowie die Pflicht, ein „Opfer“ zu informieren, wenn dessen System von einem fehlgeleiteten KI-Agenten angegriffen wird.

„Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI. Jeder Milchkarton, den Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Kontrollen“, sagte er.

BILL GATES, MITGRÜNDER VON MICROSOFT

„Keine Regierung der Welt ist auf die Veränderungen vorbereitet, die künstliche Intelligenz für die Gesellschaft mit sich bringen wird“, sagte Gates gegenüber Reuters (link)."

Der milliardenschwere Philanthrop hatte sich zuvor optimistisch über die Anwendungen der KI im Gesundheitswesen geäußert, warnte jedoch kürzlich (link) vor Gefahren für Arbeitsplätze, Bedenken hinsichtlich Angriffen und den Gefahren einer Abhängigkeit von KI-Begleitern und forderte eine internationale Organisation zur Regulierung der Technologie.

ANDREJ KARPATHY, MITGRÜNDER VON OPENAI, JETZT BEI ANTHROPIC

„Ich finde das großartig und hoffe wirklich, dass wir als Branche zusammenkommen und dies verwirklichen können“, sagte das Gründungsmitglied von OpenAI auf X, während er einen Screenshot von Amodeis Essay teilte.

Karpathy, ein äußerst einflussreiches Mitgliedder KI-Community, spielte eine Schlüsselrolle bei der Entwicklung der Autopilot- und KI-Technologie von Tesla, bevor er das Unternehmen im Jahr 2022 verließ. Im Mai wechselte er zu Anthropic.

VEREINIGTE STAATEN

„Die einzige Kontrolle oder ‚Leitplanken‘, die KI braucht, ist ein STARKER UND KLUGER (mit hohem IQ!) PRÄSIDENT, und die USA haben das im Überfluss!“, schrieb Trump (link) auf Truth Social und fügte hinzu, dass China davon profitieren würde, wenn Zweifel an der KI-Entwicklung gesät würden.

Der US-Senator Mark Warner, stellvertretender Vorsitzender des Geheimdienstausschusses des Senats, wies einen Großteil der Weltuntergangsstimmung (link) rund um die KI zurück, erklärte jedoch gleichzeitig, der Kongress solle bis zum Jahresende ein Gesetz verabschieden, um Sicherheitsstandards für KI festzulegen.

CHINA

Die staatlich unterstützte „Global Times“ erklärte in einem Leitartikel (link), die wahre Absicht hinter Amodeis Essay sei es, „Chinas KI-Entwicklung durch technologische Barrieren und regulatorische Monopole einzudämmen, Washingtons monopolistische Vorherrschaft bei Spitzentechnologie aufrechtzuerhalten und China aus dem globalen KI-Governance-System auszuschließen“.

GROSSBRITANNIEN

König Charles, der in Schottland Führungskräfte von Nvidia, DeepMind, OpenAI und Anthropic empfing, warnte sie (link) vor den „existentiellen Gefahren“, die entstehen, wenn die Technologie in die falschen Hände gerät, und erklärte, es seien Schutzmaßnahmen erforderlich, bevor es zu spät sei.

EUROPÄISCHE UNION

„Die Europäische Union befürwortet die Entwicklung von Innovationen im Bereich der künstlichen Intelligenz, aber Unternehmen müssen nachweisen, dass ihre Dienste für die Bürger sicher sind, damit sie in der Union tätig sein dürfen“, sagte Thomas Regnier, Sprecher der Europäischen Kommission.

Kommissionspräsidentin Ursula von der Leyen unterstützte Forderungen (link) nach einer Pause bei der Entwicklung der Technologie und erklärte, sie werde die wichtigsten Pionierlabore im Bereich der KI einladen, um Maßnahmen zur Bewältigung der Risiken zu erörtern.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)