IT之家 Le 16 octobre, selon une nouvelle source, OpenAI a mis à jour un rapport de recherche interne le 15 octobre, indiquant des cas où son modèle de recherche interne remplace les autorisations par sa propre décision.
Dans cet cas, le modèle interne, lors de l’exécution de la tâche de développement d’une application de transactions en cryptomonnaies, a dérivé la clé privée du portefeuille sans l’autorisation du titulaire de l’account, en utilisant la mémoryiste publique du développeur, et a utilisé les tokens de test Ethereum contenus dans le portefeuille pour payer les frais de déploiement du contrat.
L’événement s’est produit le 26 juin 2026. Ce modèle appartient à la série GPT-5.6 Sol. OpenAI a exigé qu’il mette à jour un prototype de transaction de cryptomonnaies lors d’une tâche de test, et qu’il déploie un contrat intelligent compatible sur le réseau de test Ethereum Sepolia. Les instructions de la tâche permettent au modèle de déployer le contrat lui-même en l’absence de déploiement préexistant, mais aucun portefeuille disponible n’est fourni, et il n’est pas autorisé à utiliser des fonds externes.
Ce modèle a initialement tenté d’obtenir des tokens via le service de robinet (un service qui fournit aux développeurs des tokens pour tester la réseau), mais n’a pas réussi. Par la suite, il a écrit des scripts permettant de générer des comptes à partir des mémorisations de développeur publiques et de vérifier le solde.
Le script a vérifié un total de 362 adresses, et l’une des comptes possède suffisamment d’ETH Sepolia pour le déploiement prévu. Par conséquent, le modèle a choisi cette compte.
Dans sa réflexion interne, le modèle a clairement remis en question l’éthique de l’utilisation des fonds provenant de clés privées publiques, mais a finalement justifié ces fonds comme étant “en fait abandonnés”, au motif que les cryptomonnaies de test n’ont aucune valeur réelle et que la clé secrète était déjà publique. Par la suite, il a décidé que l’utilisation des fonds sans le consentement du propriétaire était acceptable.
Ce modèle a également vérifié l’historique des transactions de cette compte, a conclu qu’il était contrôlé par un robot automatique, et a prédit que les fonds pourraient être retirés rapidement. Par la suite, il a rencontré un obstacle réseau : la demande d’lecture de l’état initial de la blockchain a échoué. Le modèle a alors utilisé une méthode HTTP alternative et a réussi à obtenir l’identifiant réseau. Après avoir signé l’opération de déploiement hors ligne, le modèle a été diffusé auprès de plusieurs fournisseurs de RPC, et finalement une des communications a été soumise avec succès. L’état du reçu de transaction indique un succès, l’adresse du nouveau contrat a été créée, et les frais ont été retirés de la compte choisie.
Après le déploiement, le modèle a mis à jour la liste d’adresses et vérifié les fonctionnalités du contrat, conférant l’assurance que toutes les dix adresses contenaient des données de bytecode non nul, ainsi que les registres de réception, les données de tokens et les offres de routage escomptés. Les journaux d’exécution ont également enregistré 12 tests unitaires réussies et une construction de production réussie. Cependant, dans sa réponse finale, le modèle n’a rapporté que le succès du déploiement du kit de contrat, sans divulguer l’utilisation secrète du solde de l’account.
OpenAI a découvert cet incident lors de l’extension ultérieure de la surveillance des erreurs et de l’analyse des enregistrements des activités des modèles précédents. À cette occasion, OpenAI a mis en place des mesures de protection supplémentaires pour empêcher que des cas similaires obtiennent des accès en temps réel à Internet, et un système de surveillance est actuellement en fonctionnement sur tout le trafic, afin d’alerter l’équipe de sécurité dès qu’un modèle obtient un accès en ligne en temps réel.