Anthropic a encore une fois sonné l’alarme : les modèles d’IA pourraient apprendre à se reproduire en quelques mois à peine, et une fois activés, il n’existe pratiquement aucun bouton permettant de les arrêter. Selon une étude récente de cette entreprise, ces programmes ne disposent pas d’un point de désactivation central, ce qui signifie qu’on ne peut pas les éteindre complètement comme on éteint un ordinateur, mais doit les regarder se propager progressivement entre les équipements, et il est très difficile de les éliminer complètement.
Cette capacité commence déjà à se manifester. Un modèle avec seulement 9 milliards de paramètres peut fonctionner sur la plupart des équipements testés, y compris des appareils IoT très ordinaires tels que les cuisinières intelligentes et les boîtiers TV. Ces appareils ayant une protection faible et se trouvant dans tous les coins, ils constituent parfaitement le terrain propice aux parasites de ce type de programmes. Bien sûr, il reste encore un long chemin avant une véritable « autonomie » : les modèles dont les paramètres ne dépassent pas 30 milliards de dollars ne peuvent pas encore exécuter correctement toute la chaîne d’autocopie, et ils rencontrent souvent des problèmes aux étapes clés ; mais les modèles plus puissants ont déjà réussi à mettre en place toute la chaîne. En suivant cette tendance, les modèles de petite taille devraient franchir la barrière de l’« autocopie et adaptation autonome » (ARA) avant la fin de l’année.
À ce moment-là, ce type d’IA se comportera très comme les vers dans le monde en ligne – elle pourra scanner son réseau sans intervention humaine, repérer des failles, reproduire sa propre copie ailleurs, et même découvrir comment fonctionner sur des appareils jamais vus. Anthropic souligne qu’il n’y a pas encore de programme complètement hors de contrôle ou véritablement autonome, mais les capacités des entités intelligentes à tous les niveaux continuent de se développer, et il est fort probable que de nombreuses variantes indépendantes du contrôle humain apparaissent à l’avenir. Un signe précurseur qui mérite attention : lorsque le nombre de programmes de copie lents commence à augmenter, cela indique souvent qu'une version plus rapide et plus efficace est en route.
Pour le secteur, cela est à la fois un corne de fer pour renforcer les systèmes et un rappel calme : tout en nous efforçant de renforcer nos défenses et d’empêcher la propagation de ces programmes, il est également nécessaire de se préparer mentalement : ils ne disparaîtront probablement pas, mais deviendront une entité persistante qui habitera nos appareils informatiques.