Anthropics aufwendiger Plan, die Wall Street auf Abstand zu halten

Anthropic will es auf beide Arten haben. Mit seinem bevorstehenden Börsengang will es die riesigen Reichtümer der öffentlichen Märkte anzapfen und betont, dass es seine Kernaufgabe, KI sicher und zum Nutzen der Menschheit zu entwickeln, nicht kompromittieren will. Aber größere Modellfähigkeiten bringen größere Risiken mit sich, und an Renditen interessierte Aktionäre mögen wenig Geduld für kostspielige Sicherheitsmaßnahmen haben, die Produkte auf ihrem Weg zum Markt verlangsamen.

Sam Altman, der CEO von Anthropics Erzrivalin OpenAI, hat zitiert Investorendruck als einen Grund dafür, dass das Unternehmen in diesem Jahr keinen Börsengang anstrebt. Anthropic hofft, dem Druck der Investoren mit einer schwindelerregenden Governance-Struktur widerstehen zu können.

Eine „einzigartige und komplizierte Governance-Struktur, die noch nie zuvor verwendet wurde … kreativ entworfen für dieses gründungsgeführte und zweckorientierte Unternehmen.“

Die Professorin für Recht an der University of Pennsylvania, Elizabeth Pollman, erklärte The Verge dass Anthropic vorgeschlagen ...den Gang an die Börse mit einer „einzigartigen und komplizierten Governance-Struktur, die noch nie zuvor verwendet wurde“ und die „kreativ für dieses gründergeführte und missionsgetriebene Unternehmen entworfen wurde“ zu wagen. Experten sagen, dass sie Anthropic die Freiheit geben sollte, Gewinne zu verfolgen, ohne dass Aktionäre das Unternehmen zwingen können, bei der Sicherheit Abkürzungen zu nehmen oder Systeme zu früh auf den Markt zu bringen, bevor sie ausreichend getestet wurden. Aber selbst die stärksten rechtlichen Schutzmaßnahmen können nur begrenzt wirken, und keine Unternehmensstruktur, so gut sie auch entworfen sein mag, kann ein börsennotiertes Unternehmen vollständig vor den Anforderungen des Marktes abschirmen.

Vor allem ist Anthropic eine Public Benefit Corporation. Einfach ausgedrückt, ist das Unternehmen gesetzlich verpflichtet, sich nicht nur auf die Maximierung der Aktionärsrendite zu konzentrieren, sondern diese mit seiner erklärten gesellschaftlichen Mission und den Interessen der Stakeholder, etwa Mitarbeitenden und bestimmten Gemeinschaften, in Einklang zu bringen. Patagonia und Kickstarter zählen zu den bekannteren Beispielen, mit Missionen, die jeweils auf Umweltschutz beziehungsweise auf die Unterstützung kreativer Gemeinschaften ausgerichtet sind.

Eine weitere zentrale Schutzvorrichtung zielt darauf ab, die Mission von Anthropic zu schützen, indem den Einfluss der Aktionäre auf einen der größten Hebel unternehmerischer Macht begrenzt wird: den Vorstand des Unternehmens. Die Direktoren beaufsichtigen das Unternehmen und ernennen seine Führung, einschließlich des CEO. Direktoren können auch Führungsfunktionen innehaben, wie es bei Anthropic der Fall ist, wo CEO Dario Amodei und Präsidentin Daniela Amodei beide dem Vorstand angehören.

Verwandt

• Anthropics IPO-Anmeldung skizziert einen Plan, mit KI „jeden Bereich menschlichen Strebens zu revolutionieren“
• Fünf seltsame Details aus der IPO-Einreichung von Anthropic
• Anthropic verbrennt Gas, um den KI-Boom zu befeuern

Aktionäre haben in der Regel erheblichen Einfluss darauf, wer in den Vorstand berufen wird, was ihnen ein Mittel an die Hand gibt, Direktoren zu ersetzen oder Veränderungen zu fordern, wenn sie mit der Art und Weise, wie das Unternehmen geführt wird, unzufrieden sind. Wenn beispielsweise Aktionäre mit dem aus ihrer Sicht unnötigen Verzögern bei der Markteinführung für optionale Sicherheitstests unzufrieden sind, können sie Direktoren absetzen und durch solche ersetzen, die stärker mit ihren Interessen übereinstimmen, etwa Geld zu verdienen und weniger vorsichtig zu sein.

„Anthropic ist vollständig von Gewinnstreben abgeschirmt, in dem Sinne, dass gewöhnliche Aktionäre keine Möglichkeit haben, den Vorstand zu wählen oder Geschäftsentscheidungen zu treffen.“

Nach Anthropics vorgeschlagener Governance-Struktur haben gewöhnliche Aktionäre kaum ein Wort dazu mitzureden, wer überhaupt im Vorstand sitzt. Stattdessen werden vier der sieben Direktoren des Vorstands von einem besonderen Gremium namens long-term benefit trust bestimmt, erklärt Jens Dammann, Professor für Wirtschafts- und Handelsrecht an der University of Texas School of Law. Das ist eine höchst ungewöhnliche Konstruktion für ein großes Technologieunternehmen.

Die Vertrauen besteht aus „finanziell unabhängigen (five financially disinterested) stimmberechtigten Treuhändern“ mit Fachkenntnissen in den Bereichen „KI-Sicherheit, nationale Sicherheit, öffentliche Politik und soziales Unternehmertum“. Durch eine spezielle Aktienklasse namens Class-T-Aktien (Class T stock) können die Treuhänder Direktoren ernennen oder abberufen, um ihrem erklärten Zweck nachzukommen: sicherzustellen, „dass Anthropic die finanziellen Interessen der Aktionäre verantwortungsvoll mit den Interessen derjenigen in Einklang bringt, die von Anthropics Verhalten und unserem gemeinnützigen Zweck betroffen sind“. Das Trust ist so konzipiert, dass es unabhängig von den kommerziellen Druckmitteln des Unternehmens agiert, sodass es theoretisch Anthropics Mission an erste Stelle setzen kann.

Gewöhnliche Aktionäre haben technisch gesehen ein Mitspracherecht bei den drei verbleibenden Sitzen im Vorstand. Anthropic hat jedoch eine weitere Schutzvorrichtung geschaffen, die die Macht fest in den Händen seiner Gründer hält, die sogenannte „Founder LLC“, die 50.1 Prozent der Stimmrechte bei Aktionärsangelegenheiten kontrollieren wird. Da viele Aktionärsabstimmungen mit einfacher Mehrheit entschieden werden, gibt Founder LLC den Gründern von Anthropic im Grunde die Möglichkeit, Entscheidungen zu blockieren oder durchzusetzen, unabhängig davon, wie die anderen Aktionäre abstimmen. Das bedeutet, dass sie faktisch die verbleibenden drei Direktoren bestimmen werden, sagte Dorothy Lund, Professorin an der Columbia Law School, gegenüber The Verge.

Im Prospekt heißt es, dass Founder LLC „anfänglich“ sieben der Gründer von Anthropic umfassen wird: Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish und Christopher Olah. „Unsere sieben Mitgründer werden anfangs die einzigen Mitglieder sein.“ Bemerkenswerterweise fehlt ein weiterer Mitgründer, Ben Mann, der die experimentelle Sparte Anthropic Labs des Unternehmens mitleitet, wie berichtet von The San Francisco Standard.

Alles in allem würden die Vereinbarungen den Gründern von Anthropic und dem Trust „enorme Macht“ über die Richtung des Unternehmens geben und es vor vielen „den Drücken, die mit der Öffnung für die Börse verbunden sind“, abschirmen, sagte Dammann gegenüber The Verge. „Angesichts der ungewöhnlichen Governance-Struktur, die Anthropic gewählt hat, sehe ich nicht, wie der Börsengang allein die Fähigkeit des Unternehmens untergraben würde, Sicherheit über kommerzielle Interessen zu stellen.“

Ann Lipton, Professorin an der University of Colorado Law School, stimmte zu und sagte gegenüber The Verge , dass Anthropic „rechtlich gesehen vollständig vor Gewinnstreben abgeschirmt ist, in dem Sinne, dass gewöhnliche Aktionäre keine Möglichkeit haben, den Vorstand zu wählen oder Geschäftsentscheidungen zu treffen.“ Aber Lipton warnte, dass die Gründer selbst finanzielle Beteiligungen am Unternehmen haben, was ihre Entscheidungen beeinflussen könnte.

„Anlegern könnte ihr fehlendes Mitspracherecht nichts ausmachen, solange die Dinge gut laufen. Aber wenn die Dinge schiefgehen, könnten sie ziemlich frustriert werden.“

Und es gibt einen großen Unterschied zwischen rechtlichen Schutzvorkehrungen und Immunität gegenüber Marktdrucken. Anthropic braucht, wie alle KI-Unternehmen, „dringend Kapital“, sagte Lipton. „Mir ist nicht klar, ob irgendeine Governance-Struktur vor der Marktwirklichkeit schützen kann, dass Anthropic, wenn es die Gewinnoptionsmöglichkeiten nicht schneller als seine Wettbewerber nutzt, seine Aktivitäten nicht finanzieren kann.“ Lund äußerte ähnliche Bedenken. Anthropic wird weiterhin „in der Gunst seiner Investoren bleiben müssen“, sagte sie und fügte hinzu, dass „Wettbewerbsdruck und Kapitalbedarf Sicherheitszusagen im Laufe der Zeit aushöhlen können.“ Anthropic reagierte nicht auf die Anfrage von The Vergeum Stellungnahme dazu, ob das Unternehmen glaubt, dem Aktionärsdruck, KI massiv auf Kosten der Sicherheit zu beschleunigen, tatsächlich widerstehen zu können.

Eine weitere potenzielle Schwachstelle entsteht, wenn die Gründer von Anthropic anfangen zu gehen. In seinem Prospekt sagt das Unternehmen, sein Erfolg hänge „stark vom fortgesetzten Dienst“ seines Führungsteams ab, insbesondere seiner Gründer. Dario und Daniela werden als besonders „kritisch“ für die Förderung der Forschung und Mission des Unternehmens hervorgehoben. Doch abgesehen vom Verlust der Führung könnte ihr Weggang erhebliche Änderungen in der Struktur des Unternehmens auslösen und möglicherweise einige der Schutzvorkehrungen beseitigen, die Anthropic davon abhalten, Gewinn über Sicherheit zu stellen.

Unter der vorgeschlagenen Struktur würde Founder LLC „auslaufen“, wenn eine Mehrheit seiner Mitglieder geht oder die Gruppe beschließt, sie aufzulösen. Sobald das geschieht, könnten gewöhnliche Aktionäre die Macht erlangen, die Schutzvorkehrungen des Trusts zu schwächen, sogar gegen den Willen der Treuhänder und ohne die Unterstützung der Gründer oder Mitarbeiter, die andere Aktienklassen halten, sagte Dammann gegenüber The Verge. Andere Mittel, den Trust zu untergraben, existierten ebenfalls, erklärte er, darunter koordiniertes Handeln der öffentlichen Aktionäre, der Mitarbeiteraktionäre und der Gründer.

Für den Moment kann Anthropic vermutlich beides gleichzeitig haben. Aber die Schutzvorkehrungen, die das Bekenntnis des Unternehmens zur KI-Sicherheit bewahren sollen, sind alles andere als unerschütterlich, und vieles hängt von Marktdrucken ab, davon, ob seine Gründer bleiben, und von den Weisungen des Trusts. Dammann sagte, er sehe ein „grundlegendes Dilemma, das nicht auf vollständig zufriedenstellende Weise gelöst werden kann“ zwischen der Mission von Anthropic und den Anforderungen der Investoren. Solange die Dinge gut laufen, mag diese Spannung beherrschbar sein. „Anlegern könnte ihr fehlendes Mitspracherecht nichts ausmachen, solange die Dinge gut laufen“, sagte Dammann. „Aber wenn die Dinge schiefgehen, könnten sie ziemlich frustriert werden.“