Google DeepMind a lancé AlphaGenome 2, un modèle ADN qui prédit les effets de variants dans des types cellulaires spécifiques. AlphaGenome 2 est un modèle séquence-vers-fonction conditionnel. Il lit 1 Mb d'ADN plus un état cellulaire cible. Son prédécesseur faisait une moyenne sur des tissus bulk. Le nouveau modèle distingue des types cellulaires étroitement liés et s'adapte à des jeux de données unicellulaires inédits sans fine-tuning. Il est disponible via l' API AlphaGenome pour la recherche non commerciale.
TL;DR
- Taille : L'entrée est une fenêtre ADN de 1 Mb (1,048,576 pb), humaine ou murine.
- Fonctionne sur : API hébergée uniquement pour le moment. L'entraînement a utilisé 2048 puces TPU v4 ; les poids sont fournis « upon final publication ».
- Performance : Surpasse AlphaGenome 1 fine-tuné, Borzoi et Scooby sur les benchmarks unicellulaires eQTL et enhancer-gène.
- Meilleur : 43 % de rappel avec 90 % de précision de signe sur les sc-eQTL de TenK10K, contre 23 % pour AlphaGenome 1 fine-tuné.
- Pire : Hors chromatine accessible, l'AUROC de prédiction du signe n'atteint que 0.63.
- En résumé : Meilleur : conditionnement par état cellulaire à partir de scRNA-seq brut. Pire : pas de poids locaux, non commercial uniquement.
Qu'est-ce qu'AlphaGenome 2 ?
AlphaGenome 2 est un modèle de type U-Net avec un encodeur convolutif, un transformeur à 11 blocs et un décodeur. AlphaGenome 1 prédisait un catalogue fixe de milliers de pistes en parallèle. AlphaGenome 2 prédit à la place les sorties pour 1 condition par appel.
La condition est un plongement à 256 dimensions. Elle module les activations par des couches FiLM dans l'encodeur, le transformeur et le décodeur. Le conditionnement du seul décodeur ou des couches de sortie a donné des gains minimes. Le conditionnement de l'encodeur et du transformeur a apporté la majeure partie de l'amélioration.
Les sorties couvrent la couverture ARN, le CAGE, l'épissage, l'accessibilité de la chromatine, les marques d'histones, la liaison des facteurs de transcription et les cartes de contacts. La méthylation des CpG est nouvelle.
Comment AlphaGenome 2 a-t-il été entraîné ?
L'entraînement se déroule en 4 étapes :
- Pré-entraînement sur les données bulk plus 3,977 pistes pseudobulk ARN et ATAC unicellulaires issues de 36 études.
- Affinage du conditionnement, qui n'ajuste que les plongements et les couches FiLM.
- Distillation des 8 modèles enseignants en 1 étudiant, en utilisant des séquences d'entrée mutées.
- Post-entraînement qui mappe un encodeur d'expression unicellulaire dans l'espace de conditions du modèle gelé.
Cet encodeur a été entraîné sur plus de 100 millions de profils humains scRNA-seq, provenant en grande partie de CELLxGENE. Les chercheurs peuvent passer des comptages bruts et obtenir une embedding de condition. La documentation autorise jusqu'à 256 cellules par appel.
Comment AlphaGenome 2 se comporte-t-il sur les benchmarks ?
Sur les tissus GTEx, le Pearson r médian pour les changements d'expression inter-tissus est passé de 0.61 à 0.71. Au sein des tissus, la variance de type cellulaire expliquée est passée de 23% à 34% pour le scRNA-seq.
Le résultat principal porte sur les eQTL unicellulaires de TenK10K à travers 28 types de cellules immunitaires. À 90% de précision, AlphaGenome 2 a récupéré 30% des variants causaux. AlphaGenome 1 affiné sur des données unicellulaires en a récupéré 16%. Le rappel de la direction de l'effet est passé de 23% à 43%.
Sur des données ENCODE-rE2G CRISPRi tenues à l'écart, l'AUPRC enhancer-gène a atteint 0.78. AlphaGenome 1 a obtenu 0.73, un Borzoi ensemble 0.61. L'écart était le plus grand pour les enhanceurs distants de 100 à 2,500 kb : 0.62 contre 0.48.
Pour l'imputation d'essais, AlphaGenome 2 a surpassé la référence Avocado sur 166 des 181 pistes tenues à l'écart. Sur une cohorte de Parkinson inédite, il a atteint 41% de rappel contre 17% pour un Scooby.
ajusté sur la cohorte. Comment se compare-t-il aux autres modèles de séquence d'ADN ?
| Caractéristique | AlphaGenome 2 | AlphaGenome 1 | Borzoi | Scooby |
|---|---|---|---|---|
| ADN d'entrée | 1 Mb | 1 Mb | 524 kb | 524 kb |
| Gestion des conditions | Embedding de référence ou scRNA-seq | Pistes multitâches fixes | Pistes multitâches fixes | Décodeur à embedding cellulaire, par jeu de données |
| Sorties unicellulaires | scRNA, scATAC | Non | Non | scRNA, scATAC |
| Paramètres | Non divulgué | Non divulgué | 235M | Non divulgué |
| Matériel | API hébergée | H100 recommandé | Non divulgué | GPU NVIDIA (testé sur A40) |
| Poids / licence | API pour l'instant, poids plus tard, non commercial | Kaggle et HF, conditions non commerciales | Apache-2.0 | MIT |
| TenK10K sc-eQTL causality AUPRC* | 0.76 | 0.72 (fine-tuned) | Non évalué | 0.69 |
| AUC* du signe des sc-eQTL TenK10K | 0.85 | 0.79 (fine-tuned) | Non évalué | 0.77 |
| AUPRC* CRISPRi en retenue de rE2G | 0.78 | 0.73 | 0.61 (ensemble de 4 modèles) | Non évalué |
*Les lignes de benchmark proviennent de l' article AlphaGenome 2 et constituent l'évaluation propre de DeepMind.
Que peuvent accéder les développeurs aujourd'hui ?
AlphaGenome 2 et les tutoriels Colab sont accessibles via l'API. Une clé API est gratuite pour un usage non commercial. La recherche commerciale est en préversion privée. Le alphagenome package Python expose le modèle sous alphagenome.models.v2.
DeepMind a également publié des atlas précalculés. L'un couvre les liens enhancer-gène à travers 640 conditions de cellules primaires. L'autre note environ 7 millions de variantes communes et GWAS à travers 510 conditions. Les deux sont sur la page de téléchargement.
Points clés
- AlphaGenome 2 conditionne un modèle d'ADN de 1 Mb sur 1 type cellulaire par appel.
- Le rappel des sc-eQTL causaux à 90% de précision est passé de 16% à 30%.
- Les comptes bruts de scRNA-seq peuvent définir de nouveaux états cellulaires sans réentraînement.
- Les scores précalculés couvrent environ 7 millions de variantes à travers 510 conditions.
- L'accès est pour l'instant réservé à l'API et non commercial.
Découvrez l' article scientifique, le blog DeepMind, la documentation de l'API et le dépôt GitHub. N’hésitez pas également à nous suivre sur Twitter et n’oubliez pas de rejoindre notre SubReddit ML de plus de 150k et de vous abonner à notre NewsletterAttendez ! êtes-vous sur telegram ? vous pouvez maintenant nous rejoindre sur telegram également.
Besoin de partnering avec nous pour promouvoir votre dépôt GitHub OU votre page Hugging Face OU un lancement de produit OU un webinaire, etc. ? Connectez-vous avec nous
L’article Google DeepMind lance AlphaGenome 2 pour les effets des variants spécifiques aux types cellulaires est apparu en premier sur MarkTechPost.