Le plan élaboré d'Anthropic pour tenir Wall Street à distance

Anthropic veut avoir le beurre et l'argent du beurre. Avec son introduction en bourse imminente, elle veut puiser dans les immenses richesses des marchés publics et insiste sur le fait qu'elle ne veut pas compromettre sa mission fondamentale de développer l'IA de manière sûre et au bénéfice de l'humanité. Mais de plus grandes capacités des modèles apportent de plus grands risques, et des actionnaires avides de rendements pourraient avoir peu de patience pour des mesures de sécurité coûteuses qui ralentissent les produits sur leur chemin vers le marché.

Sam Altman, le PDG de l'archirivale d'Anthropic, OpenAI, a cité les pressions des investisseurs comme l'une des raisons pour lesquelles la société ne poursuit pas d'introduction en bourse cette année. Anthropic espère pouvoir résister aux pressions des investisseurs grâce à une structure de gouvernance vertigineuse.

Une « structure de gouvernance unique et compliquée qui n'a jamais été utilisée auparavant… conçue de manière créative pour cette société fondée par ses dirigeants et animée par une mission ».

Elizabeth Pollman, professeure de droit à l'université de Pennsylvanie, a déclaré à The Verge qu'Anthropic a proposé d'entrer en bourse avec une « structure de gouvernance unique et compliquée qui n'a jamais été utilisée auparavant » et qui a été « conçue de manière créative pour cette société fondée par ses dirigeants et animée par une mission ». Les experts disent que cela devrait donner à Anthropic la liberté de rechercher des profits sans laisser les actionnaires la forcer à bâcler la sécurité ou à précipiter la sortie de systèmes avant qu'ils ne soient suffisamment testés. Mais même les protections juridiques les plus solides ont leurs limites, et aucune structure d'entreprise, aussi bien conçue soit-elle, ne peut totalement isoler une société cotée des exigences du marché.

Avant tout, Anthropic est une société à mission (public benefit corporation). En termes simples, elle est légalement tenue de se concentrer sur autre chose que la simple maximisation des rendements pour les actionnaires, en équilibrant cela avec sa mission sociale affichée et les intérêts des parties prenantes, comme les employés et certaines communautés. Patagonia et Kickstarter figurent parmi les exemples les plus connus, avec des missions centrées respectivement sur la conservation de l'environnement et le soutien aux communautés créatives.

Une autre protection clé vise à protéger la mission d'Anthropic en limitant l'influence des actionnaires sur l'un des plus grands leviers de pouvoir d'une entreprise : le conseil d'administration de la société. Les administrateurs supervisent l'entreprise et nomment sa direction, y compris le PDG. Les administrateurs peuvent également occuper des postes de direction, comme c'est le cas chez Anthropic, où le PDG Dario Amodei et la présidente Daniela Amodei siègent tous deux au conseil.

En relation

• Le dossier d'introduction en bourse d'Anthropic expose un plan pour « révolutionner chaque domaine de l'activité humaine » grâce à l'IA
• Cinq détails étranges dans le dossier d'introduction en bourse d'Anthropic
• Anthropic brûle du gaz pour alimenter le boom de l'IA

Les actionnaires ont généralement une influence considérable sur la composition du conseil d'administration, ce qui leur donne un moyen de remplacer des administrateurs ou de pousser à des changements s'ils sont mécontents de la façon dont l'entreprise est gérée. Par exemple, si les actionnaires sont mécontents de ce qu'ils perçoivent comme des retards inutiles de mise sur le marché pour des tests de sécurité facultatifs, ils peuvent destituer des administrateurs et les remplacer par d'autres plus alignés avec leurs intérêts, comme gagner de l'argent et être moins prudents.

« Anthropic est entièrement isolée des pressions de recherche de profit, en ce sens que les actionnaires ordinaires n'ont aucune capacité à sélectionner le conseil d'administration ou à prendre des décisions commerciales. »

Selon la structure de gouvernance proposée par Anthropic, les actionnaires ordinaires n'auront pas leur mot à dire sur la composition du conseil d'administration. Au lieu de cela, quatre des sept administrateurs du conseil seront choisis par un organe spécial appelé le long-term benefit trust, explique Jens Dammann, professeur de droit des affaires et du commerce à la School of Law de l'université du Texas. Il s'agit d'un dispositif très inhabituel pour une grande entreprise technologique.

Le trust est composé de « cinq administrateurs votants financièrement désintéressés » ayant une expertise en « sécurité de l'IA, sécurité nationale, politique publique et entrepreneuriat social ». Par le biais d'une classe d'actions spéciale appelée Class T stock, les administrateurs peuvent nommer ou destituer des administrateurs dans le but affiché de garantir « qu'Anthropic équilibre de manière responsable les intérêts financiers des actionnaires avec les intérêts des personnes affectées par la conduite d'Anthropic et notre objectif d'utilité publique ». Le trust est conçu pour fonctionner indépendamment des pressions commerciales de l'entreprise, lui permettant, en théorie, de placer la mission d'Anthropic au premier plan.

Techniquement, les actionnaires ordinaires ont leur mot à dire sur les trois sièges restants du conseil d'administration. Cependant, Anthropic a créé un autre dispositif de protection qui maintient fermement le pouvoir entre les mains de ses fondateurs, appelé « Founder LLC », qui contrôlera 50.1 pour cent du pouvoir de vote sur les questions d'actionnaires. Étant donné que de nombreux votes d'actionnaires sont décidés à la majorité simple, Founder LLC donne en pratique aux fondateurs d'Anthropic la possibilité de bloquer ou de faire passer des décisions, quel que soit le vote des autres actionnaires. Cela signifie qu'ils choisiront en réalité les trois administrateurs restants, a expliqué Dorothy Lund, professeure à la Columbia Law School, à The Verge.

Le prospectus indique que Founder LLC sera « initialement » composé de sept des fondateurs d'Anthropic : Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish et Christopher Olah. « Nos sept cofondateurs seront initialement les seuls membres. » Un autre cofondateur, Ben Mann, qui codirige la branche expérimentale Anthropic Labs de l'entreprise, est notablement absent, comme rapporté par The San Francisco Standard.

Dans l'ensemble, ces dispositions donneraient aux fondateurs d'Anthropic et à la fiducie un « pouvoir considérable » sur la direction de l'entreprise, la protégeant de nombre des « pressions associées au statut d'entreprise cotée », a déclaré Dammann à The Verge. « Compte tenu de la structure de gouvernance inhabituelle qu'Anthropic a choisie, je ne vois pas comment une introduction en bourse, en soi, pourrait compromettre sa capacité à prioriser la sécurité plutôt que les intérêts commerciaux. »

Ann Lipton, professeure à la faculté de droit de l'University of Colorado, a partagé cet avis, déclarant à The Verge que, juridiquement parlant, « Anthropic est totalement à l'abri des pressions liées à la recherche de profit, en ce sens que les actionnaires ordinaires n'ont aucune possibilité de choisir le conseil d'administration ni de prendre des décisions commerciales ». Mais Lipton a averti que les fondateurs eux-mêmes détiennent des participations financières dans l'entreprise, ce qui pourrait influencer leurs décisions.

« Les investisseurs peuvent ne pas s'offusquer de leur absence de voix tant que les choses se passent bien. Mais si les choses tournent mal, ils pourraient devenir assez frustrés. »

Et il existe une grande différence entre les protections juridiques et l'immunité face aux pressions du marché. Anthropic, comme toutes les entreprises d'IA, « a désespérément besoin de capitaux », a déclaré Lipton. « Il n'est pas clair pour moi qu'une structure de gouvernance puisse protéger contre la réalité du marché : à moins qu'Anthropic ne saisisse les opportunités de profit à un rythme plus rapide que ses concurrents, elle ne pourra pas financer ses opérations. » Lund a exprimé des préoccupations similaires. Anthropic devra toujours « rester en bons termes avec ses investisseurs », a-t-elle ajouté, précisant que « la pression concurrentielle et les besoins en capitaux peuvent éroder les engagements de sécurité au fil du temps ». Anthropic n'a pas répondu à la demande de commentaire de The Vergesur la question de savoir si l'entreprise estimait pouvoir réellement résister à la pression des actionnaires pour accélérer massivement l'IA au détriment de la sécurité.

Une autre vulnérabilité potentielle apparaît si les fondateurs d'Anthropic commencent à partir. Dans son prospectus, l'entreprise indique que son succès « dépend fortement du maintien en fonctions » de son équipe dirigeante, en particulier de ses fondateurs. Dario et Daniela sont désignés comme étant particulièrement « essentiels » à l'avancement de la recherche et de la mission de l'entreprise. Mais au-delà de la perte de leadership, leur départ pourrait déclencher des changements importants dans la structure de l'entreprise, supprimant potentiellement certains des dispositifs empêchant Anthropic de privilégier le profit au détriment de la sécurité.

Selon la structure proposée, Founder LLC serait « dissous » si la majorité de ses membres partaient ou si le groupe choisissait de le dissoudre. Une fois cela arrivé, les actionnaires ordinaires pourraient obtenir le pouvoir d'affaiblir les protections de la fiducie, même contre la volonté des trustees, et sans le soutien des fondateurs ni des employés, qui détiennent des classes d'actions différentes, a déclaré Dammann à The Verge. D'autres moyens de contourner la fiducie existent également, a-t-il expliqué, notamment une action coordonnée des actionnaires publics, des actionnaires salariés et des fondateurs.

Pour l'instant, il semble qu'Anthropic puisse probablement avoir le beurre et l'argent du beurre. Mais les protections conçues pour préserver son engagement envers la sécurité de l'IA sont loin d'être infaillibles, et beaucoup dépend des pressions du marché, du maintien en fonctions de ses fondateurs et des orientations de la fiducie. Dammann a déclaré voir un « dilemme fondamental qui ne peut être résolu de manière pleinement satisfaisante » entre la mission d'Anthropic et les exigences des investisseurs. Tant que les choses se passent bien, cette tension peut rester gérable. « Les investisseurs peuvent ne pas s'offusquer de leur absence de voix tant que les choses se passent bien », a déclaré Dammann. « Mais si les choses tournent mal, ils pourraient devenir assez frustrés. »