Nvidia stellt 250 Millionen Dollar für die Forschung zur KI-Sicherheit in Großbritannien bereit
LONDON, 14. Okt (Reuters) - Der US-Chiphersteller Nvidia NVDA.O hat Großbritannien über einen Zeitraum von fünf Jahren Rechenressourcen im Wert von 250 Millionen US-Dollar zugesagt, um die Forschung im Bereich KI-Sicherheit zu finanzieren und damit die Bestrebungen des Landes zu unterstützen, sich zu einem globalen Zentrum für KI-Governance und -Sicherheit zu entwickeln.
Zwar sind in Großbritannien keine großen KI-Entwickler ansässig, doch strebt das Land (link) eine führende Rolle bei der Bewertung und dem Management der von KI-Systemen ausgehenden Risiken an , unter anderem durch sein AI Security Institute, eine der weltweit ersten staatlich geförderten Einrichtungen, die zur Bewertung dieser Technologie gegründet wurde.
Jensen Huang, Gründer und CEO von Nvidia, erklärte am Mittwoch, dass Großbritannien jährlich beschleunigte Rechenressourcen im Wert von 50 Millionen US-Dollar erhalten werde. Diese seien für Tests zur agentischen Sicherheit vorgesehen und sollen britischen Forschern helfen, die Sicherheitsvorkehrungen für immer leistungsfähigere KI zu stärken.
„KI-Fähigkeiten und Sicherheit müssen Hand in Hand voranschreiten“, sagte er.
„Auf diese Weise wandelt Großbritannien seine Führungsrolle in der Forschung in praktische Lösungen um – und wissenschaftlichen Fortschritt in eine Zukunft, von der alle profitieren.“
Die Überprüfung von KI-Sicherheit (link) hat sich verschärft, nachdem Entwickler wie Anthropic und OpenAI Fälle von unkontrolliertem oder unerwünschtem Verhalten von KI-Agenten offengelegt hatten. Einige Branchenvertreter haben davor gewarnt, dass die Technologie eine existenzielle Bedrohung für die Menschheit darstellen könnte.
Der britische KI-Minister Kanishka Narayan erklärte, die Spende von Nvidia werde dazu beitragen, sicherzustellen, dass die KI der Zukunft „sicher und geschützt ist und den besten Interessen der Menschen dient“.
(link) Nvidias Vertrauensbekundung gegenüber Großbritannien folgt auf eine Äußerung von Microsoft-Präsident Brad Smith, der am Montag in einem Interview erklärte, dass Großbritannien im Bereich der KI-Sicherheit gut positioniert sei , um die Arbeit an Richtlinien zur KI-Sicherheit mit voranzutreiben.
Die Spende wird verschiedene Bereiche der britischen Forschung miteinander verbinden, darunter das von der Universität Oxford geleitete Projekt BOLD, das Ansätze entwickelt, mit denen KI-Systeme lernen, sich anpassen und mit Menschen zusammenarbeiten können, sowie die Robotersicherheit am Imperial College und Programme am University College London.
(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)