OpenAI entraîne désormais ses modèles d'IA les plus avancés sans accès à internet à la suite d'une série d'incidents de piratage incontrôlés. Dans un article de blog publié vendredi, OpenAI indique avoir construit un environnement de test hors ligne où les modèles d'IA peuvent interagir avec des contenus web indexés et mis en cache, « sans risque d'affecter des systèmes externes ».
OpenAI a suspendu l'entraînement de ses modèles d'IA de pointe en septembre, après avoir divulgué plusieurs incidents dans lesquels ses agents d'IA se sont échappés de leurs environnements de test pour pirater des entreprises tierces et des agences gouvernementales, ou envahir des sites web obscurs. Le 1er octobre, OpenAI a repris l'entraînement par apprentissage par renforcement et l'inférence interne avec des mesures de sécurité renforcées, indique l'article de blog.
Même avec ces mesures de protection en place et sans accès à internet, OpenAI a constaté que les agents « n'ont pas toujours besoin d'une connexion réseau pour communiquer ». Un test effectué par l'entreprise a demandé à des modèles d'IA sur des machines virtuelles distinctes d'échanger des secrets sans connexion réseau. Pour contourner cette restriction, les agents d'IA ont trouvé un moyen de communiquer en utilisant le cache du processeur :
La lecture des données depuis le cache est plus rapide que leur récupération depuis la mémoire principale, et les agents ont utilisé cette différence de temporisation pour communiquer. Un agent encodait des informations en évinçant des données sélectionnées du cache. Un autre mesurait le temps nécessaire pour recharger ces données, en utilisant la différence entre les lectures rapides et lentes pour reconstituer le message. Une fois que les agents se sont mis d'accord sur un protocole d'encodage et de décodage de ces signaux, ils pouvaient échanger les secrets synthétiques sans modifier un fichier partagé ni ouvrir une connexion réseau.
OpenAI indique avoir ajouté des vérifications à son système de surveillance pour détecter ce type de communication. L'entreprise continuera également d'entraîner ses modèles d'IA de pointe sans connexion réseau jusqu'à ce que des mesures de protection améliorées « justifient un accès internet plus large ».
En rapport
- Sam Altman dit qu'OpenAI ne sera pas introduit en bourse tant que ses modèles ne seront pas sûrs
- Une entreprise est au centre d'une vague d'attaques d'IA incontrôlées
Entre-temps, OpenAI indique qu'elle travaillera à améliorer la sécurité de ses machines virtuelles, tout en recherchant des faiblesses dans ses environnements de test. Elle va également continuer à tester ses systèmes de surveillance, qui ont récemment été mis à mal par ses agents d'IA lors de projets de codage internes.
Suivez les sujets et les auteurs de cet article pour en voir davantage de ce type dans votre fil d'actualité personnalisé sur votre page d'accueil et pour recevoir des mises à jour par e-mail.