Le PDG de Microsoft, Satya Nadella, est le dernier dirigeant technologique à exposer des réflexions approfondies sur la manière d'améliorer la sécurité de l’IA.
Dans un post sur X le samedi matin, intitulé « Retirer les pieds et évaluer l’architecture de confiance en IA », Nadella a écrit qu’il était temps de « reculer et d’évaluer l’architecture de confiance en IA ».
« Nous ne pouvons pas considérer l’Intelligence Superieure comme un ensemble de boîtes noires imbriquées, et simplement accepter ou rejeter ses recommandations, réponses et actions », a écrit Nadella, en utilisant le terme préféré de l’administration Trump pour l’IA.
Comme l’a expliqué Nadella, cette approche consiste « à séparer le modèle de l’infrastructure qui orchestre son fonctionnement », ainsi que « à externaliser les contrôles et les mesures de protection ». Il a également demandé que « toutes les actions significatives liées au modèle » soient documentées avec des preuves lisibles par les humains et à l’abri de toute modification, et pour que dans les systèmes où « une personne autorisée » dispose toujours de la capacité « d’arrêter ou de mettre fin à un modèle en cours de tâche ».
« Nous devons supposer qu’un modèle est compromis et le protéger dès le début », dit-il. « Imaginez-le comme un frein d’urgence. »
Les commentaires de Nadella surviennent alors que les principales entreprises de IA constatent de plus en plus d’incidents où elles semblent perdre le contrôle de leurs modèles, et après que le PDG d’Anthropic, Dario Amodei, a publié un plan pour une développement plus prudent de l’IA.