Anthropic a été fondée en 2021 pour garantir que l'humanité puisse contrôler l'IA et en bénéficier à long terme. Alors que le laboratoire de pointe approche de son introduction en bourse, cependant, il existe une catégorie de l'humanité qui se trouve exclue du contrôle : quiconque achète ses actions sur les marchés publics.
Les structures complexes permettant à des fondateurs comme Elon Musk ou Mark Zuckerberg de contrôler leurs sociétés cotées sans en détenir la majorité ne sont pas nouvelles dans la Silicon Valley. Mais l'obsession d'Anthropic pour la sécurité de l'IA a donné naissance à un style de gouvernance d'entreprise véritablement baroque qui laissera les actionnaires ordinaires avec très peu de poids sur la plupart des décisions majeures de l'entreprise d'IA, y compris la composition de son conseil d'administration.
Premièrement, Anthropic est une société d'intérêt collectif—une société à but lucratif légalement autorisée à prendre en compte une mission d'intérêt public aux côtés du profit—avec pour objectif de promouvoir la sécurité de l'IA. Ce statut protège la capacité du conseil d'administration à prendre des décisions en matière de sécurité de l'IA qui ne sont pas entièrement dictées par la valeur actionnariale sans être poursuivi en justice par des investisseurs mécontents.
Actuellement, le conseil d'administration est présidé par la présidente d'Anthropic, Daniela Amodei, et comprend le PDG Dario Amodei (son frère), le cofondateur de Netflix Reed Hastings, l'ancien directeur financier de Microsoft et GM Christopher Liddell, le PDG de Novartis Vas Narasimhan, et la partenaire de Spark Capital Yasmin Razavi. Un siège est vacant au sein du conseil.
Deuxièmement, Anthropic a confié un contrôle significatif de son conseil d'administration à un Long Term Benefit Trust (LTBT), un panel indépendant chargé de maintenir l'entreprise concentrée sur sa mission visant à bénéficier à l'humanité. Ce trust détient une classe d'actions qui lui donne le pouvoir d'élire et de révoquer la majorité du conseil d'administration de l'entreprise, appelés administrateurs de classe T. Le LTBT est présidé par Neil Shah, un expert en santé mondiale qui était directeur général chez GiveWell, une organisation à but non lucratif qui classe les œuvres caritatives, et comprend l'ancien président de la Réserve fédérale Ben Bernanke, l'expert en sécurité nationale Richard Fontaine, et le physicien de Harvard Christopher Stubbs. Un siège est actuellement vacant au sein du LTBT. Les membres existants choisiront eux-mêmes qui le comblera.
Troisièmement, les sept fondateurs d'Anthropic détiennent également conjointement une classe d'actions spéciale qui donne à la majorité d'entre eux 50,1 % du pouvoir de vote des actionnaires, leur permettant d'élire trois membres du conseil d'administration. Si, pour une raison quelconque, il n'y a pas de majorité parmi les fondateurs, leurs actions ne sont alors votées au prorata qu'avec les détenteurs d'actions ordinaires.
Enfin, le conseil d'administration peut contrebalancer le LTBT. Lorsque le LTBT nomme un directeur « Spécifié » parmi ses quatre administrateurs, ou révoque ce directeur sans motif (c'est-à-dire sans alléguer de faute), le comité de nomination du conseil peut refuser d'approuver cette décision et soumettre le vote aux employés de l'entreprise.
Voici à quoi tout cela ressemble :
La dynamique d'une structure aussi complexe est difficile à prédire. Nous avons déjà vu un exemple notable où une structure similaire a été essentiellement renversée : le soi-disant « blip » d'OpenAI, lorsque le conseil d'administration d'OpenAI a brièvement licencié le PDG Sam Altman parce qu'il craignait qu'il ne leur soit pas franc . Grâce à la loyauté des employés de l'entreprise envers Altman, le conseil d'administration a fait marche arrière, l'a réintégré, et une nouvelle structure de gouvernance a été mise en place. La structure d'Anthropic semble formaliser ce type de pouvoir des employés.
Chez Anthropic, des fissures dans le front uni des fondateurs pourraient donner aux actionnaires ordinaires plus de poids que prévu, tandis que les employés peuvent outrepasser le LTBT sur les sièges du conseil s'ils soutiennent le conseil plutôt que les éminentes personnalités réunies.
Le contrôle des fondateurs ne durera pas éternellement : dix ans après l'introduction en bourse, les fondateurs peuvent choisir de mettre fin à leur contrôle de l'entreprise, ou leur contrôle prendra fin automatiquement lorsqu'il en restera moins de trois. À ce moment-là, le LTBT continuera jusqu'à ce que 85 % des actionnaires ordinaires votent pour y mettre fin, ou qu'il décide de se retirer avec l'approbation du conseil d'administration.
Si et quand aucune de ces deux classes spéciales d'actionnaires n'existe plus—en espérant que ce ne soit pas à cause d'une catastrophe provoquée par l'IA—les actionnaires ordinaires obtiendront enfin le contrôle.