Claude n'a pas inventé l'antisérum contre le scorpion

Une société de recherche en investissement voulait prouver que l'IA pouvait révolutionner le développement de médicaments. Elle s'est donc associée à Anthropic pour voir si une version non publiée de Claude pouvait fabriquer un antisérum contre le scorpion. Elle n'y est pas parvenue. Elle a proposé quelques pistes de départ prometteuses, mais rien qui ressemble à un véritable médicament, selon des experts interrogés par The Verge.

Citrini Research, la société à l'origine de l'expérience, a admis qu'« aucun d'entre nous ne pouvait prétendre connaître quoi que ce soit à l'IA appliquée à la biologie ». Cela ne l'a pas empêchée d'essayer de créer un médicament à partir de zéro — ni de publier un article de blog intitulé « We Wanted to Use Claude to Create a New Drug. Here's What Happened. » Le récit comprenait des questions rhétoriques telles que « Pourquoi ne pas essayer d'utiliser l'IA pour créer un nouveau médicament ? », un récit détaillé de ses aventures scientifiques amateurs, et une citation de Charles Darwin.

Si le nom Citrini vous semble familier, c'est parce que la société est à l'origine d'un texte de fiction largement diffusé imaginant une catastrophe économique induite par l'IA qui a gagné du terrain sur les réseaux sociaux et ébranlé les marchés réels. Elle affirme également s'être rendue au détroit d'Ormuz en avril pour obtenir une perspective de première main sur la situation dans cette région volatile.

En lien

• Anthropic veut développer ses propres médicaments
• Claude Fable est trop effrayé pour vous parler de la centrale énergétique de la cellule
• Non, ChatGPT n'a pas guéri le cancer d'un chien

Pour sa dernière entreprise, Citrini a fait appel à Anthropic qui, à quelques semaines de son introduction en bourse très attendue, a plusieurs raisons de vanter le potentiel de l'IA dans le développement de médicaments et les sciences de la vie — deux domaines qu'elle poursuit activement.

La collaboration est née après que Citrini s'est heurté aux garde-fous de biosécurité de Claude en essayant de faire rechercher des candidats médicaments au modèle. L'auteur de l'article a déclaré avoir « téléphoné en masse à tous les contacts de ma liste qui travaillaient dans un laboratoire d'IA », finissant par trouver un partenaire consentant en Anthropic. Le laboratoire d'IA a accepté de lever les restrictions et de donner à l'équipe l'accès à un modèle plus avancé et non publié, à condition qu'elle travaille depuis ses bureaux. « Heureusement », Anthropic a également accepté de prendre en charge la lourde facture de calcul et de tokens, qui s'est élevée juste en dessous de 50,000 dollars.

Après avoir pesé quelques options, l'équipe s'est arrêtée sur l'antisérum contre le scorpion, un traitement coûteux et difficile à produire, impliquant souvent l'injection de venin à des chevaux. L'objectif était d'utiliser Claude pour concevoir des protéines capables de se lier aux toxines du venin de scorpion. Armés d'un prompt de 35 pages, ils ont mis l'IA au travail, déployant quelque 300 sous-agents pour découvrir des protéines adaptées.

Dans son propre récit plus sobre de l'expérience, Anthropic a indiqué que Claude avait généré près de 320,000 candidats, les réduisant à 180 conceptions après avoir écarté celles qui ressemblaient à des toxines connues ou à des protéines existantes. L'ensemble du processus a pris 64 heures. Anthropic a déclaré que l'équipe avait travaillé « avec Claude » pour ajouter 31 conceptions supplémentaires, portant le total à 211.

Citrini a ensuite envoyé les conceptions à deux laboratoires externes — la société de biotechnologie suisse Adaptyv Bio et la société américaine Twist Biosciences — pour tester si les protéines pouvaient réellement se lier à leurs cibles prévues, une étape clé pour développer un antisérum efficace. Cela a coûté environ 150,000 dollars de plus. On ignore pourquoi Anthropic n'aurait pas pu mener ces tests en interne dans ses laboratoire de biologie expérimentale (wet lab) en Californie. Dix-sept des protéines ont passé le cap, se liant collectivement à quatre des cinq toxines de scorpion que l'équipe espérait cibler. Pas une seule des protéines ne s'est liée à plus d'une seule toxine, a déclaré Citrini.

Même si cela avait été le cas, Citrini serait encore très loin d'un antivenin fonctionnel. Se lier à une toxine ne signifie pas qu'une protéine peut réellement la neutraliser, encore moins qu'elle peut servir de traitement sûr et efficace. Citrini le reconnaît lui-même, notant qu'« aucune expérience n'a encore testé si elles ont réellement empêché la toxine d'agir ».

Autrement dit, l'expérience n'avait pas réussi. Citrini s'est lancé dans la fabrication d'un nouveau médicament, mais des experts affirment à The Verge que l'expérience n'avait accompli que la partie relativement « facile » du processus. « Il est assez facile de découvrir un bon agent de liaison contre les toxines de serpents et de scorpions », a déclaré Andreas Hougaard Laustsen-Kiel, professeur de technologies des anticorps à l'Université technique du Danemark. « La partie difficile, c'est de le transformer en médicament. »

Melisa Benard Valle, professeure adjointe, et Anne Ljungars, chercheuse principale, toutes deux à l'Université technique du Danemark, sont du même avis. « Les résultats sont techniquement prometteurs, mais une partie de l'enthousiasme est prématurée », ont-elles écrit dans un courriel conjoint, qualifiant les conclusions de « très loin d'un médicament et exagérées ». Beaucoup de choses restent inconnues concernant les protéines conçues par Claude, ont-elles déclaré, notamment leur sécurité, leur stabilité, leur comportement dans le corps et la possibilité de les développer en traitements viables. « Traduire ces agents de liaison en un véritable médicament reste probablement un processus long et difficile. »

L'aspect le plus original de l'expérience de Citrini, selon elles, était le « processus de découverte autonome plutôt que les résultats biologiques ». L'IA a un énorme potentiel pour accélérer la découverte, ont-elles ajouté, mais elles ont averti que « transformer des molécules prometteuses en médicaments efficaces demeure un défi bien plus grand ».

Et l'approche sous-jacente n'est pas particulièrement nouvelle. Andreas Bender, professeur d'apprentissage automatique en médecine à l'Université Khalifa d'Abu Dhabi, a déclaré à The Verge que des méthodes existantes comme le criblage à haut débit « permettent souvent de trouver une multitude de composés actifs à un coût gérable », même sans aucune IA. Concevoir des protéines qui se lient à des cibles est un problème « en quelque sorte » résolu, a déclaré Bender, qui est également professeur invité à l'Université de Cambridge. Le défi bien plus difficile consiste à transformer ces résultats en traitements qui fonctionnent réellement dans des systèmes vivants. « C'est précisément cette traduction qui manque. »

Bien qu'il ait échoué à fabriquer un médicament, Citrini a déclaré que l'expérience était une forme de succès. La société a fait valoir que cela offre un aperçu des opportunités d'investissement qui émergent à l'ère à venir de la découverte de médicaments assistée par l'IA. Quant à la raison pour laquelle elle ne s'est pas donné la peine d'aller plus loin dans la recherche ? Citrini a accusé ses détracteurs de « pinailler » et a ajouté : « Pour ne pas remarteler un cheval mort, nous sommes une société de recherche en investissement - pas une startup de biotechnologie. » Citrini et Anthropic n'ont pas répondu aux demandes de commentaire.

Mais elle a néanmoins présenté un argument optimiste pour les entreprises qui pourraient en bénéficier. Naturellement, les détails étaient réservés aux abonnés payants, bien que Bloomberg rapporte que la société a mis en avant des entreprises impliquées dans la partie tests du développement de médicaments, notamment Charles River Laboratories, qui fournit des primates pour la recherche animale. Dans une vidéo consacrée à l'expérience, Citrini a décrit la partie IA comme « gratuite », omettant commodément la facture réglée par Anthropic.