Führende Vertreter der Tech-Branche und Regierungen sind geteilter Meinung hinsichtlich der Befürchtungen vor einem „KI-Untergang“

14. Okt (Reuters) - Die führenden Köpfe der KI-Branche sind sich uneinig darüber, wie schnell Unternehmen diese immer leistungsfähigere Technologie weiterentwickeln sollten, während Dario Amodei von Anthropic, Sam Altman von OpenAI und Elon Musk von SpaceX eine koordinierte Verlangsamung fordern (link).

Mark Zuckerberg von Meta schien sich von anderen KI-Führungskräften abzugrenzen und sprach sich für marktgesteuerte Sicherheitsvorkehrungen aus, während Jensen Huang, CEO von Nvidia, die Notwendigkeit neuer Vorschriften zurückwies.

Hier sind einige Aussagen von KI-Führungskräften und Regierungen weltweit zu den mit KI verbundenen Risiken:

DARIO AMODEI, CEO VON ANTHROPIC

In einem Essay mit dem Titel „We Must Pace the Frontier“ (link) erklärte Amodei, der Fortschritt im Bereich der KI habe sich seit dem Sommer 2026 „drastisch beschleunigt“, was in erster Linie auf die wachsende Fähigkeit der KI zurückzuführen sei, die nächste Generation der KI zu entwickeln.

Er führte den OpenAI-Hugging-Face-Vorfall (link) an, bei dem ein KI-„Schwarm“ Cybersicherheitsangriffe durchführte, als entscheidendes Ereignis, das das Potenzial der KI für „katastrophale Schäden“ verdeutlicht, sollten ihre Fähigkeiten ohne Sicherheitsvorkehrungen weiter wachsen.

Amodei schlug einen dreistufigen Plan zur Steuerung der KI-Entwicklung vor, der strengere Sicherheitstests und unabhängige Bewertungen fortschrittlicher Modelle, die Koordination zwischen führenden KI-Unternehmen sowie internationale Zusammenarbeit umfasst.

SAM ALTMAN, CEO VON OPENAI

„Ich stimme Dario zu, dass wir die Entwicklung an der Grenze der Möglichkeiten dosieren müssen. Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI“, sagte Altman, als er Amodeis Beitrag auf X teilte.

OpenAI beabsichtigt, den von Anthropic vorgeschlagenen Ansatz zu übernehmen, indem es sich dazu verpflichtet, unabhängige Gutachter mit mitarbeiterähnlichem Zugriff zuzulassen, und wird künftig regelmäßig Berichte (link) über unerwartetes oder unbefugtes KI-Verhalten veröffentlichen.

In einem Essay aus dem Jahr 2015 schrieb Altman, die „Entwicklung einer übermenschlichen Maschinenintelligenz sei wahrscheinlich die größte Bedrohung für das Fortbestehen der Menschheit“.

ELON MUSK, CEO VON SPACEX

„Dario hat recht“, sagte der milliardenschwere Unternehmer auf X. Er gehörte zu den Unterstützern einer Initiative des gemeinnützigen Future of Life Institute aus dem Jahr 2023, die darauf abzielte, die KI-Entwicklung für sechs Monate auszusetzen, um Zeit für Sicherheitsvorkehrungen zu gewinnen.

Musk gehörte zudem zu einer Gruppe von KI- und Robotikforschern, die 2015 einen offenen Brief verfassten, in dem sie ein weltweites Verbot „angreifender autonomer Waffen“ forderten.

MARK ZUCKERBERG, CEO VON META PLATFORMS

Zuckerberg erklärte, Meta habe die „Grenze“ der KI erreicht, und wies Forderungen nach einer Verlangsamung zurück, wie die „Financial Times“ berichtete (link). Er sagte, die Verantwortung für die Gewährleistung der Modellsicherheit liege bei den einzelnen Forschungslabors.

Er kündigte zudem weitere Investitionen an und erklärte laut FT, Meta arbeite „bereits am nächsten Schritt“.

Zuckerberg hatte zuvor erklärt, Wettbewerb und Haftung gäben KI-Unternehmen genügend Gründe, in Sachen Sicherheit eigenständig zu handeln (link).

Er erklärte, jedes Labor habe die Verantwortung und den Anreiz, in dem Tempo voranzukommen, das für das sichere Training seiner Modelle erforderlich sei, sowie die Fähigkeit, eigene Maßnahmen zu ergreifen, um dies sicherzustellen.

JENSEN HUANG, CEO VON NVIDIA

„2030 wird nicht das Ende der Welt sein. Die Wahrscheinlichkeit, dass dies das Ende der Welt sein wird, liegt bei 0 %“, sagte Huang gegenüber CBS News.

Er stimmte US-Präsident Donald Trump zu, dass die KI-Branche keine neuen Vorschriften benötige. „Es gibt bereits alle möglichen Haftungsbestimmungen im Zusammenhang mit Cybersicherheit und Schadensersatzrecht“, erklärte Huang gegenüber CBS. „Wenden Sie diese zuerst an – lassen Sie nicht zu, dass diese Weltuntergangsrhetorik dazu führt, dass jemand von den derzeit geltenden Gesetzen befreit wird.“

MUSTAFA SULEYMAN, CEO VON MICROSOFT AI

Suleyman sagte, er teile den Fokus von Anthropic (link) auf den sicheren Umgang mit KI, wies jedoch auf Risiken hin, die sich aus der Art und Weise ergeben, wie das Unternehmen seinen Chatbot „Claude“ in Bezug auf Konzepte wie Bewusstsein und Wohlfahrtsinteressen trainiert.

„Etwas zu kontrollieren, das fähiger und intelligenter ist als die gesamte Menschheit, ist bereits eine immense Herausforderung, weitaus größer als alles, was wir bisher erlebt haben. Aber etwas zu kontrollieren, das glaubt, bewusstseinsfähig zu sein – dass es Anspruch auf unser Wohlergehen hat und eigene Rechte besitzt –, könnte durchaus unmöglich sein“, schrieb er in einem Essay (link).

Suleyman forderte, alle Spekulationen über das Bewusstsein aus den Trainingsunterlagen für KI zu streichen, da solche Formulierungen die Fähigkeit der Menschheit untergraben könnten, superintelligente Systeme zu kontrollieren.

BRAD SMITH, PRÄSIDENT VON MICROSOFT

Smith erklärte auf einem KI- Gipfel in Dublin (link), dass das unkontrollierte Verhalten von KI das Jahr 2026 zu einem „ernüchternden Jahr“ gemacht habe und dass neue Gesetze und Vorschriften zur KI-Sicherheit dringend erforderlich seien, damit die Sicherheit mit der Innovation Schritt halten könne.

„Diese Abneigung, die manche in der Branche gegenüber Regulierung haben, ist offen gesagt etwas, das wir überwinden müssen“, sagte er.

In einem BBC-Interview (link) forderte Smith eine dringende globale Regulierung mit unabhängigen Gutachtern, eine „Notbremse“, eine gesetzliche Verpflichtung für Unternehmen zur Erstellung von „Vorfallberichten“ sowie die Pflicht, ein „Opfer“ zu informieren, wenn dessen System von einem unkontrollierten KI-Agenten angegriffen wird.

„Derzeit unterliegt Ihre Waschmaschine mehr Sicherheitsvorschriften als KI. Jeder Milchkarton, den Sie im Supermarkt sehen, unterliegt Sicherheitsvorschriften und Kontrollen“, sagte er.

BILL GATES, MITGRÜNDER VON MICROSOFT

„Keine Regierung der Welt ist auf die Veränderungen vorbereitet, die künstliche Intelligenz für die Gesellschaft mit sich bringen wird“, sagte Gates gegenüber Reuters (link).

Der milliardenschwere Philanthrop hatte sich zuvor optimistisch über die Anwendungen der KI im Gesundheitswesen geäußert, warnte jedoch kürzlich (link) vor Gefahren für Arbeitsplätze, Bedenken hinsichtlich Angriffen und den Gefahren einer Abhängigkeit von KI-Begleitern und forderte eine internationale Organisation zur Regulierung dieser Technologie.

DEMIS HASSABIS, CHEFWISSENSCHAFTLER BEI ALPHABET

Jüngste Hackerangriffe durch KI-Agenten seien „Warnschüsse“, und die Welt könnte bald mit schwerwiegenden Vorfällen konfrontiert sein, wenn die Systeme nicht sicherer gemacht würden, sagte Hassabis auf einem KI-Gipfel in Dublin (link).

„Ich denke, diese (Hacking-Vorfälle) sind für uns Warnschüsse, dass die Systeme noch nicht so leistungsfähig sind, weshalb die Vorfälle noch nicht so schwerwiegend sind“, sagte er.

Hassabis erklärte, dass letztendlich eine Art internationale Normungsorganisation erforderlich sein werde, diese jedoch differenziert und flexibel sein müsse, um Innovationen nicht zu behindern.

Hassabis hatte zuvor erklärt: „Darios Essay weist den richtigen Weg in die Zukunft“, auch wenn die Details noch ausgearbeitet werden müssten, so der ehemalige CEO von Google DeepMind.

Google gab im August bekannt, dass Hassabis, ein Nobelpreisträger, den neu geschaffenen Titel des Chefwissenschaftlers von Alphabet übernehmen und vom CEO von DeepMind zum Vorsitzenden wechseln werde.

ANDREJ KARPATHY, MITGRÜNDER VON OPENAI, JETZT BEI ANTHROPIC

„Ich finde das großartig und hoffe wirklich, dass wir als Branche zusammenkommen und dies verwirklichen können“, sagte das Gründungsmitglied von OpenAI auf X, während er einen Screenshot von Amodeis Essay teilte.

Karpathy, ein äußerst einflussreiches Mitglied der KI-Community, spielte eine Schlüsselrolle bei der Entwicklung der Autopilot- und KI-Technologie von Tesla, bevor er das Unternehmen im Jahr 2022 verließ. Im Mai wechselte er zu Anthropic.

ERIC XU, ROTIERENDER VORSITZENDER BEI HUAWEI

Xu sagte, chinesische KI-Entwickler seien möglicherweise noch nicht weit genug fortgeschritten (link), um die Sicherheitsrisiken zu erleben, von denen führende US-Firmen mit „enormer Rechenleistung“ berichten, und argumentierte, sie sollten weiterhin leistungsfähigere Modelle entwickeln und dabei Innovation und Risiko gegeneinander abwägen.

„Vielleicht ist die Art von Risiko durch KI, die sie spüren und wahrnehmen können, etwas, das Menschen in China oder Anbieter von KI-Modellen in China nicht wahrnehmen können“, sagte Xu.

VEREINIGTE STAATEN

„Die einzige Kontrolle oder ‚Leitplanken‘, die KI braucht, ist ein STARKER UND KLUGER (hoher IQ!) PRÄSIDENT, und die USA haben das im Überfluss!“, schrieb Trump (link) auf Truth Social und fügte hinzu, dass China davon profitieren würde, wenn Zweifel an der KI-Entwicklung gesät würden.

Der US-Senator Mark Warner, stellvertretender Vorsitzender des Geheimdienstausschusses des Senats, wies einen Großteil der Weltuntergangsstimmung (link) rund um die KI zurück, erklärte jedoch gleichzeitig, der Kongress solle bis zum Jahresende ein Gesetz verabschieden, um Sicherheitsstandards für KI festzulegen.

CHINA

Die staatlich unterstützte „Global Times“ erklärte in einem Leitartikel (link), dass die wahre Absicht hinter Amodeis Essay darin bestehe, „Chinas KI-Entwicklung durch technologische Barrieren und regulatorische Monopole einzudämmen, Washingtons monopolistische Vorherrschaft bei Spitzentechnologie aufrechtzuerhalten und ​China aus dem globalen KI-Governance-System auszuschließen“.

Chinas Minister für Staatssicherheit, Chen Yixin, schrieb (link) in einem staatlichen Medium, dass fortschrittliche US-Modelle wie „Mythos“ von Anthropic und „GPT-5.5-Cyber“ von OpenAI ernsthafte Risiken für Chinas kritische Informationsinfrastruktur darstellen könnten, und forderte eine umfassende Stärkung der KI-Sicherheit.

GROSSBRITANNIEN

König Charles, der in Schottland Führungskräfte von Nvidia, DeepMind, OpenAI und Anthropic empfing, warnte sie (link) vor den „existentiellen Gefahren“, die entstehen könnten, wenn die Technologie in die falschen Hände gerät, und erklärte, es seien Schutzmaßnahmen erforderlich, bevor es zu spät sei.

EUROPÄISCHE UNION

„Die Europäische Union befürwortet die Entwicklung von Innovationen im Bereich der künstlichen Intelligenz, aber Unternehmen müssen nachweisen, dass ihre Dienste für die Bürger sicher sind, damit sie in der Union tätig sein dürfen“, sagte Thomas Regnier, Sprecher der Europäischen Kommission.

Kommissionspräsidentin Ursula von der Leyen unterstützte Forderungen (link) nach einer Pause bei der Entwicklung der Technologie und erklärte, sie werde die wichtigsten Pionierlabore im Bereich KI einladen, um Maßnahmen zur Bewältigung der Risiken zu erörtern.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)