Le PDG de Microsoft, Satya Nadella, a publié un long texte sur les plateformes sociales le 10 octobre, appelant ouvertement l’industrie à introduire un mécanisme de « freinage d’urgence » pour les modèles d’intelligence artificielle avancée, et à évaluer complètement la structure de confiance en IA existante.
Face à la technologie de la super-intelligence qui évolue rapidement actuellement, Nadera a souligné que l’industrie ne devrait plus considérer aveuglément des modèles complexes comme omniscents et omnipotent, mais plutôt partir d’une hypothèse défensive selon laquelle les modèles ont été pénétrés, afin de mettre en œuvre une approche de gouvernance de la sécurité plus prudente.
Dans le cadre technique spécifique, Nader propose de séparer les modèles d’IA de base du cadre de contrôle qui coordonne leurs tâches, afin de externaliser les mesures de contrôle et de sécurité. Il souligne que chaque opération significative du modèle doit s’accompagner de preuves d’exécution anti-aléa et lisibles par l’humain, et garantir que les autorisés disposent du pouvoir ultime de suspendre ou de fermer le modèle à tout moment pendant l’exécution de la tâche. Cette proposition correspond à un plan de développement prudent proposé auparavant par Dario Amodei, le PDG d’Anthropic, mettant en évidence la vigilance accrue des leaders technologiques de premier plan face au risque de dérive des modèles d’IA.
Selon les analyses du secteur, avec l’amélioration continue de l’autonomie des modèles et de leurs capacités d’agent, établir des normes industrielles transparentes, contrôlables et dotées de capacité d’intervention externe est devenu une priorité essentielle pour équilibrer la innovation technologique et les lignes de sécurité.