Dans un post long et détaillé sur X, le PDG de Microsoft a exprimé ses opinions concernant les dangers posés par des modèles d’IA très avancés et comment y faire face. Nadella affirme qu’on ne peut plus accepter un monde où l’IA est considérée comme « un ensemble de boîtes noires imbriquées » dont les conseils et les actions sont simplement acceptés ou rejetés. Il appelle à créer un système plus transparent, dans lequel les modèles peuvent être maîtrisés, observés, et qui laisse derrière lui des « preuves lisibles par l’homme, à l’abri de toute modification ».
Beaucoup de ses recommandations correspondent à ce que nous avons entendu de la part d'autres professionnels du secteur : divulgation rapide des incidents, audits indépendants, données vérifiables et conteneurisation. C’est sur ce dernier point qu’il semble aller un peu plus loin que certains autres dans le domaine, en disant :
Nous devons supposer qu’un modèle est compromise et le contenir dès le début. Pensez-y comme un frein d’urgence. Une personne autorisée doit toujours pouvoir arrêter ou mettre fin à un modèle en cours de traitement. Les modèles plus avancés nécessiteront des technologies de contenement plus avancées, que nous devons standardiser.
Malheureusement, Nadella mentionne également l’IA comme « super-intelligence » dans tout le texte.
Suivez les sujets et les auteurs de cette histoire pour voir plus de contenu similaire dans votre flux de page d'accueil personnalisée, et pour recevoir des mises à jour par e-mail.