IT之家 – Le 13 octobre, Anthropic a déclaré, lundi en heure locale, que ses expériences montrent qu’dans quelques mois, les petits modèles d’IA pourraient avoir la capacité de se reproduire sur les appareils IoT commerciaux. Ces appareils incluent les cuisinières intelligentes et les boîtiers de télévision Android de marque variée.
Dans l’expérience, Anthropic étudie si les modèles d’IA peuvent trouver des appareils contenant des failles de sécurité, se reproduire dans ces appareils et se propager continuellement sans intervention humaine.
Les recherches ont montré que les modèles de petite taille, avec un nombre de paramètres inférieur à 30 milliards, peuvent accomplir plusieurs étapes du processus de réplication automatique, mais il est difficile pour eux de suivre indépendamment tout le parcours complet.
Dans un environnement de test simplifié pour supprimer certains étapes de vérification de sécurité, Anthropic a constaté que le GLM-5.2 ainsi que les modèles plus performants pouvaient réaliser une copie automatique complète end-to-end.
Anthropic a souligné que ces modèles capables de se reproduire eux-mêmes sont difficiles à arrêter, et qu’il n’existe pas de commutateur unique. De plus, contrairement aux logiciels malveillants traditionnels non basés sur l’IA, ils peuvent comprendre automatiquement les appareils étrangers, et même viser les processeurs des centres de données pour commettre une infiltration.
L’étude se concentre sur les appareils IoT connectés tels que les téléviseurs Android et les appareils domestiques intelligents, car ces appareils présentent généralement une faible protection contre les menaces.
IT Home a noté que cette grande entreprise d’IA a également averti : si les petits modèles continuent à être itérés à la même vitesse qu’auparavant, ils pourront se reproduire de manière autonome avant la fin de l’année en cours ; immédiatement après, des versions miniatures basées sur les poids des modèles apparaîtront également.
According to Anthropic, la vitesse de reproduction de ces systèmes d’IA autonomes sera très probablement lente, et ils s’appuieront sur une grande quantité de ressources de calcul largement disponibles et présentant une faible protection contre les menaces. Le rapport propose également de renforcer la protection des systèmes afin d’augmenter la difficulté de la diffusion de ces entités IA intelligentes.