Wer kontrolliert leistungsstarke KI? Anthropic hat einen Plan für die Zeit, lange nachdem die Führungskräfte ausgeschieden sind

- von Jeffrey Dastin und Ross Kerber

SAN FRANCISCO, 27. Okt (Reuters) - Nur wenige börsennotierte Unternehmen behaupten, dass die Zukunft der Menschheit auf dem Spiel steht, während sie alltägliche Entscheidungen über die Zusammensetzung des Vorstands treffen.

Nicht so bei Anthropic. Nachdem das Unternehmen gewarnt hatte, dass seine künstliche Intelligenz eines Tages Krebs heilen oder bis zu 8 Milliarden Menschen töten könnte, hat Anthropic einen komplexen Plan ausgearbeitet, wer das Unternehmen angesichts des rasanten technologischen Fortschritts leiten darf, wie aus dem am Montag eingereichten Börsenzulassungsantrag hervorgeht (link).

Die erwartete Bewertung von 1,5 Billionen US-Dollar (link) würde Anthropic zur weltweit höchstbewerteten „Public Benefit Corporation“ machen – eine nach dem Recht des Bundesstaates Delaware geschaffene Rechtsform, die bedeutet, dass das KI-Labor die Interessen der Investoren mit der Förderung des Allgemeinwohls in Einklang bringen muss.

Die Struktur von Anthropic ist mehr als nur Kleingedrucktes – sie könnte erhebliche Auswirkungen auf Investoren und eine Öffentlichkeit haben, die die KI des in San Francisco ansässigen Unternehmens zunehmend nutzt. Die Details zeigen, wie sich Anthropic vor dem Druck der Investoren abgeschirmt hat, um das verfolgen zu können, was nach eigener Aussage das Beste für die Menschheit ist.

Anthropic übertrug seinen sieben Mitbegründern, die laut der Einreichung „in besonderer Weise dafür geeignet sind, unsere Mission zu vertreten“, 50,1 Prozent der Stimmrechte in bestimmten Angelegenheiten, wie Reuters zuvor berichtete (link). Obwohl ein unabhängiger Trust die Mehrheit der Sitze im Verwaltungsrat kontrollieren wird, erstreckt sich das Supervotingsrecht der Mitbegründer auf die Wahl der verbleibenden Vorstandsmitglieder und generell auf Anträge der Aktionäre.

Die am Montag eingereichte Einreichung enthüllte noch weitere Feinheiten bei der Leitung eines Unternehmens, von dem Anthropic erwartet, dass es die eng verbundene Gruppe, die es gegründet hat, überdauern wird.

Sobald die meisten Mitbegründer nicht mehr im Unternehmen tätig sind und ihre „Klasse-F“-Aktien mit Sonderstimmrecht wegfallen, wird sich der Verwaltungsrat von Anthropic in drei gleich große Gruppen aufteilen, deren Amtszeit jeweils drei Jahre beträgt.

Durch die gestaffelte Wiederwahl der Vorstandsmitglieder, ähnlich wie im US-Senat, hat Anthropic eine Struktur übernommen, die einst als Mittel zur Abwehr feindlicher Übernahmen beliebt war. Das Unternehmen hat seit langem Bedenken hinsichtlich der Risiken geäußert, dass KI in autoritäre oder böswillige Hände geraten könnte.

Diese Struktur widerspricht zudem einigen Trends in der Unternehmensführung. In diesem Jahrhundert sind große US-Unternehmen weitgehend dazu übergegangen, alle Vorstandsmitglieder jährlich zu wählen (link), wodurch Unternehmen besser auf die Forderungen der Aktionäre in Bereichen wie der Vergütung der Führungskräfte oder der Unternehmensstrategie reagieren können.

Anthropic lehnte eine Stellungnahme ab.

„LANGFRISTIGE FLEXIBILITÄT“

Über den Verwaltungsrat hinaus verfügt Anthropic über ein weiteres Leitungsgremium mit eigenen Regeln: seinen Long-Term-Benefit-Trust.

Der Trust, dessen Vorsitz derzeit der weltweit führende Gesundheitsexperte Neil „Buddy“ Shah innehat, kontrolliert eine spezielle Aktienklasse namens „Klasse T“, die es ihm ermöglicht, die Mehrheit des Vorstands von Anthropic zu wählen. Anthropic hat sich auch Gedanken darüber gemacht, was passiert, wenn diese Aktienklasse wegfällt.

Das Ziel solcher Vorkehrungen sei es, „langfristige Flexibilität zu bewahren, falls sich die Umstände ändern“, hieß es in der Einreichung. Selbst wenn jemand, der nicht an die Mission von Anthropic zum Wohle der Menschheit gebunden ist, die „Class T“-Aktien in seinen Besitz bringt, würde die Struktur von Anthropic die Vorstandsmitglieder dazu verpflichten, „Bestimmungen in Bezug auf unseren gemeinnützigen Zweck“ zu befolgen.

Letztendlich macht die Macht des Trusts über den Verwaltungsrat Anthropic zu einem „kontrollierten Unternehmen“ gemäß den Nasdaq-Regeln, wodurch das Unternehmen von einigen typischen Anforderungen befreit ist, wie beispielsweise der Einrichtung eines unabhängigen Nominierungs- und Corporate-Governance-Ausschusses. Anthropic nutzt diese Ausnahmeregelung, um Daniela Amodei, seine Präsidentin und Schwester des CEO Dario Amodei, in diesen Ausschuss zu berufen.

DIE FÜHRENDEN KÖPFE

Anthropic hat zudem einen Sicherheits- und Risikoausschuss innerhalb seines Vorstands eingerichtet, der derzeit aus dem Novartis-CEO Vas Narasimhan und dem ehemaligen Trump-Regierungsbeamten Chris Liddell besteht. Der milliardenschwere Netflix-Mitbegründer Reed Hastings ist derzeit das führende unabhängige Verwaltungsratsmitglied von Anthropic.

Dennoch bleiben die sieben Mitbegründer von Anthropic – darunter die Geschwister Amodei – auf absehbare Zeit der Kern der Unternehmensführung. Dies liegt zum Teil an der Existenz einer Einheit namens „Founder LLC“, die nach dem Trust das größte Mitspracherecht bei den Vorstandswahlen haben wird.

(Als Service bietet die Nachrichtenagentur Reuters eine automatische Übersetzung einiger englischer Artikel in eine Reihe von Sprachen an, darunter auch Deutsch. Da durch eine maschinelle Übersetzung Fehler entstehen können und der notwendige Kontext möglicherweise fehlt, übernimmt Reuters keine Gewähr für die Korrektheit der automatisch übersetzten Texte. Sie werden ausschließlich als Service zur Verfügung gestellt. Reuters lehnt eine Haftung für etwaige Schäden oder Verluste jeglicher Art ab, die aus der Nutzung der automatischen Übersetzungen entstehen.)